doubleAI-მ წარადგინა Maxwell, კოდის შესრულების მოდელი, რომელიც მუშაობის დროს კოდს ოპტიმიზებს

Maxwell კოდს მუშაობის დროს ოპტიმიზებს

ისრაელში, თელ-ავივში დაფუძნებულმა და 2023 წელს დაარსებულმა სტარტაპმა doubleAI-მ ორშაბათს წარადგინა Maxwell. კოდის შესრულების მოდელი პროგრამების მუშაობის დროს ბინარულ კოდს აფასებს, ოპტიმიზებს და გადაწერს. სახელი მაქსველის დემონისგან მიიღო, ენტროპიის შესახებ ჩაფიქრებული აზრობრივი ექსპერიმენტისგან, რომელიც ჯეიმს კლერკ მაქსველმა 1867 წელს შემოგვთავაზა, და ის ალგორითმებსა და მანქანურ ინსტრუქციებს წინასწარ ამუშავებს, რათა არსებულ ჰარდვეარზე მაქსიმალური წარმადობა მიიღოს.

კონცეფციით Maxwell JIT კომპილატორის მსგავსია, თუმცა უფრო მოქნილია და ფორმალურად ამოწმებს შემცვლელი კოდის ეკვივალენტურობას. საწყისი კოდი უცვლელი რჩება. თანადამფუძნებელმა გალ ბენიამინიმ, რომელსაც თეორიულ კომპიუტერულ მეცნიერებაში PhD აქვს, თქვა, რომ კომპილატორს არ შეუძლია მაღალი დონის მსჯელობა, მაგალითად ალგორითმის შეცვლა. Maxwell-ს შეუძლია დაინახოს ზუსტი ჰარდვეარი, პროგრამაში მოძრავი მონაცემების ფორმები და ტიპები, გარემოს მდგომარეობა, კიდევ რა მუშაობს და რომელი შეფერხებები რა პირობებში ჩნდება.

გავრცელებული დაჩქარება და უსაფრთხოების შემოწმებები

doubleAI-ის თქმით, Maxwell-მა მონაცემთა პაიპლაინები 38-ზე მეტჯერ, ხოლო AI ინფერენსის ბირთვები 4,5-ზე მეტჯერ დააჩქარა. LTX-2.5-მა, ღია world model-მა, რომელიც 4K ვიდეოს გენერირებს, Maxwell-ის დახმარებით ამის გაკეთება თითქმის ორჯერ უფრო სწრაფად შეძლო. ოპტიმიზაციებმა შეამცირა GPU-ებს შორის გაცვლილი მონაცემები და გააუმჯობესა ბირთვების შერჩევა, რათა ზედმეტი ტოკენური შევსება მოეხსნას.

ბენიამინის თქმით, Maxwell ყველაზე კარგად მუშაობს ალგორითმულ კოდზე, რომლის ჰარდვეარზე არატრივიალურად მორგებაც შეიძლება. მან დასძინა, რომ Python-ის კოდი და PyTorch-ის გრაფები მაინც შეიძლება მნიშვნელოვნად ოპტიმიზდეს, რადგან ხშირად ოპტიმალურისგან შორს არიან. Maxwell-ს ასევე შეუძლია უსაფრთხოების უზრუნველყოფა იმის დამტკიცებით, რომ მეხსიერების შეცდომები არ არსებობს. მისი თქმით, კომპანიამ იპოვა შემთხვევები თავად Python-ში, სადაც Python მეხსიერებით უსაფრთხო არ იყო, და Maxwell-მა დაამტკიცა, რომ ეს ასე იყო.

განლაგება და ნდობა

Maxwell-ის ტრასირებისა და პროფილირების მაქსიმალური დანახარჯი 2 პროცენტია, ხოლო ტრასირების გარეშე ნული. ბენიამინის თქმით, ოპტიმიზაციები ამ ხარჯს აღემატება და doubleAI Maxwell-ს თავად runtime-ზეც იყენებს, რათა ყველგან 2 პროცენტზე გაცილებით მეტი თანაბარი დაჩქარება მიიღოს. დეველოპერები აყენებენ runtime-ს და უშვებენ საკუთარ კოდს, ხოლო Maxwell-ის მოდელს doubleAI ჰოსტავს, რაც გარკვეულ ნდობას მოითხოვს.

doubleAI-ის თანადამფუძნებელმა და აღმასრულებელმა დირექტორმა ამნონ შაშუამ თქვა, რომ AI-მ შეცვალა პროგრამული უზრუნველყოფის წერის წესი და ახლა ცვლის იმას, თუ როგორ მუშაობს ის. მან კოდის შესრულების მოდელები აღწერა როგორც ჰარდვეარის სახელით მოქმედი აგენტები და არა ადამიანი მომხმარებლის სახელით მოქმედი კოდის აგენტები, და Maxwell-ს უწოდა პირველი AI, რომელიც მანქანისთვის მუშაობს და არა პროგრამისტისთვის.

წყაროები: The Register · doubleAI