Առաջատար AI-ն սեփական սարքավորման վրա. dlab-ի բաց կոդի շաբաթ

150 ուսանող ունեցող լսարանում Թիմ Դետմերսը տվեց մի հարց, որը, իր խոսքով, վախեցել էր տալ. ո՞վ է վախենում, որ ավարտելուց հետո աշխատանք չի գտնի։ Ձեռք բարձրացրեց մոտ 80 տոկոսը։ Սեպտեմբերի 21-ի բլոգում նա պնդում է, որ այդ վախը սխալ ենթադրության վրա է հիմնված՝ թե հետազոտության ապագան նրանն է, ով ամենաշատ GPU-ն ունի։

Հետազոտության միավորը այլևս հոդվածը չէ

Գործակալների վրա հիմնված հոսքերը առանձին նախագծերը դարձրել են արագ, գրում է Դետմերսը. մեկ տարի տևած աշխատանքն այժմ շաբաթներ, երբեմն օրեր է տևում։ Երբ ամեն նախագիծ էժանանում է, ցրված հոդվածները դադարում են լավ հետազոտություն համարվել։ «Հետազոտության միավորը էկոհամակարգն է», գրում է նա. լաբորատորիան հիմա երկու բաց նախագիծ ու չորս հոդված հրապարակում է մեկ փաթեթով՝ dlab-ի բաց կոդի շաբաթ։

Առաջատար մոդելները սովորական սարքավորման վրա

Գործակալին ուղղորդեցին լաբորատորիայի ինֆերենս շրջանակի Mac-ի և Metal-ի իրականացումներին ու մենակ թողեցին միջուկները օպտիմալացնելու։ Արդյունքը՝ Qwen 3.6 35B-A3B-ի քվանտացված ինֆերենսը վայրկյանում 450 թոքենով 1.5 բիթ մեկ կշռի դիմաց՝ մոտ տասն անգամ պակաս հիշողություն, քան պահանջում է կիսաճշգրիտ մոդելը։

Ավելի մեծ մոդելներն էլ են տեղավորվում. Qwen 3.8 Flash Next-ը՝ 125 միլիարդ պարամետրով, աշխատում է մեկ 24 ԳԲ GPU-ի վրա. AMD Strix-ով, NVIDIA DGX Spark-ով կամ 128 ԳԲ MacBook-ով շրջանակը գործարկում է DeepSeek V4.1-ը՝ 550 միլիարդ պարամետրով։ Համատեքստի մշակումը ավտոմատ է, իսկ ինֆերենսը արագ է մնում նաև երկար համատեքստերում։

Ինքնավար հետազոտություն՝ տեղայնորեն

Նույն բաղադրիչները միավորվեցին ինքնավար հետազոտության համակարգում, որն աշխատում է ամբողջովին տեղայնորեն՝ առանց ինտերնետի։ Ըստ Դետմերսի՝ այն գերազանցում է առաջատար լաբորատորիաների deep research համակարգերին, Sakana AI-ի համակարգին և Google-ի ScientistOne-ին։ Կենսաինֆորմատիկայի փորձարկումում գործակալը էժան խնդիր էր փնտրում. նա վերադարձրեց երեք թեկնածու և մոտ երկու ժամում սահմանեց էվրիստիկ մեթոդների նոր ստորին սահման, փորձարկեց գրականության լավագույն մեթոդը և գտավ խնդիրներ գնահատման տվյալների աղբյուրներում, թեև state of the art-ին չհասավ։

Երկար սեսիաները կենդանի է պահում CliffCompaction ավտոմատ կոմպակցիայի տեխնիկան, որը, ըստ Դետմերսի, զգալիորեն ավելի հզոր է, քան Claude Code-ի կամ Codex-ի տարբերակը։ Սեսիաները տևում են միլիոնավոր թոքեններ, որոշները՝ հարյուր միլիոնից ավելի, իսկ ընդհանուր ծախսը նվազում է մոտ 50 տոկոսով. մեկ գործընկեր չափեց AI-ի բյուջեի 45 տոկոսանոց կրճատում։ KernelBench-ում այն հասնում է state of the art-ի՝ առաջ անցնելով AlphaEvolve ոճի մոտեցումներից և հիերարխիկ հիշողության համակարգերից։

Ակադեմիայի վերածնունդ

Դետմերսը պնդում է, որ էժան հարձակման ենթակա և արժեքավոր լուծում ունեցող խնդիրների տարածքը հսկայական է ու մրցակցությունից զուրկ, քանի որ մեծ ռեսուրսներ ունեցողները մրցում են մասշտաբի վրա։ Նա CMU-ում պատրաստում է չորսշաբաթյա դասընթաց և հաջորդ կիսամյակում՝ ամբողջական դասընթաց՝ նյութը YouTube-ում հրապարակելու նպատակով։