doubleAI-ն ներկայացնում է Maxwell-ը՝ կոդի կատարման մոդել, որը օպտիմալացնում է աշխատող կոդը

Maxwell-ը օպտիմալացնում է կոդը աշխատանքի ընթացքում

doubleAI-ն, որը հիմնադրվել է 2023 թվականին Թել Ավիվում, Իսրայելում, երկուշաբթի օրը ներկայացրեց Maxwell-ը։ Կոդի կատարման այս մոդելը գնահատում, օպտիմալացնում և վերագրում է երկուական կոդը կատարման ընթացքում։ Այն անվանվել է ի պատիվ Մաքսվելի դևի, որը Ջեյմս Քլերկ Մաքսվելի 1867 թվականի էնտրոպիայի մասին մտքի փորձ է, և նախամշակում է ալգորիթմներն ու մեքենայական հրահանգները՝ առկա սարքավորումների վրա արդյունավետությունը առավելագույնի հասցնելու համար։

Maxwell-ը նման է JIT կոմպիլյատորի գաղափարին, բայց ավելի ճկուն է և պաշտոնապես ստուգում է փոխարինող կոդի համարժեքությունը։ Սկզբնական կոդը չի դիպչվում։ Համահիմնադիր Գալ Բենիամինին, որը տեսական համակարգչային գիտության դոկտորի աստիճան ունի, ասաց, որ կոմպիլյատորը չի կարող բարձր մակարդակի դատողություն անել, օրինակ՝ ալգորիթմը փոխել։ Maxwell-ը կարող է տեսնել սարքավորումների ճշգրիտ կազմը, ծրագրի միջով հոսող տվյալների ձևերն ու տիպերը, միջավայրի վիճակը, թե ինչ այլ բան է աշխատում և որ նեղ տեղերը որ պայմաններում են հայտնվում։

Հաղորդված արագացումները և անվտանգության ստուգումները

doubleAI-ն ասաց, որ Maxwell-ը տվյալների խողովակները դարձրել է ավելի քան 38 անգամ ավելի արագ, իսկ AI ինֆերենսի կերնելները՝ ավելի քան 4.5 անգամ ավելի արագ։ LTX-2.5-ը, որը բաց աշխարհի մոդել է և գեներացնում է 4K տեսանյութ, Maxwell-ի հետ կարողացավ դա անել գրեթե երկու անգամ ավելի արագ։ Օպտիմալացումները նվազեցրին GPU-ների միջև փոխանակվող տվյալները և բարելավեցին կերնելի ընտրությունը՝ հանելով ավելորդ թոքենային լցոնումը։

Բենիամինին ասաց, որ Maxwell-ը լավագույնն է աշխատում ալգորիթմային կոդի վրա, որը կարող է ոչ տրիվիալ կերպով հարմարեցվել սարքավորումներին։ Նա ավելացրեց, որ Python կոդը և PyTorch գրաֆները դեռ կարող են ստանալ լայնածավալ օպտիմալացումներ, քանի որ հաճախ հեռու են օպտիմալից։ Maxwell-ը կարող է նաև լուծել անվտանգության հարցեր՝ ապացուցելով, որ հիշողության սխալներ գոյություն չունեն։ Նա ասաց, որ ընկերությունը Python-ում գտել է դեպքեր, որտեղ Python-ը հիշողության առումով անվտանգ չէր, և Maxwell-ը ապացուցեց դա։

Տեղակայում և վստահություն

Maxwell-ի հետագծումը և պրոֆիլավորումը ունեն առավելագույն 2 տոկոս ծախս, իսկ երբ չի հետևում՝ զրո։ Բենիամինին ասաց, որ օպտիմալացումները գերազանցում են այդ ծախսը, և doubleAI-ն նաև կիրառում է Maxwell-ը ինքն իր վրա՝ runtime-ի վրա, որպեսզի վերադարձնի 2 տոկոսից շատ ավելի մեծ հարթ արագացում ամբողջ համակարգում։ Մշակողները տեղադրում են runtime-ը և աշխատեցնում իրենց կոդը, իսկ Maxwell մոդելը հյուրընկալված է doubleAI-ի կողմից, ինչը պահանջում է որոշակի վստահություն։

Ամնոն Շաշուան, doubleAI-ի համահիմնադիր և գործադիր տնօրեն, ասաց, որ AI-ը փոխել է ծրագրային ապահովման գրման ձևը և այժմ փոխում է դրա աշխատելու ձևը։ Նա կոդի կատարման մոդելները նկարագրեց որպես սարքավորումների անունից գործող գործակալներ, այլ ոչ թե մարդ օգտատիրոջ անունից գործող կոդի գործակալներ, և անվանեց Maxwell-ը առաջին AI-ը, որը աշխատում է մեքենայի համար, ոչ թե ծրագրավորողի։

Աղբյուրներ: The Register · doubleAI