Öz avadanlığınızda sərhəd AI: dlab Açıq Mənbə Həftəsi

150 tələbəlik auditoriyada Tim Dettmers, verməkdən qorxduğunu dediyi sualı verdi: məzun olduqdan sonra iş tapa bilməyəcəyindən kim qorxur? Təxminən səksən faiz əl qaldırdı. 21 sentyabr tarixli yazıda o, qorxunun yanlış fərziyyəyə dayandığını iddia edir — guya tədqiqatın gələcəyi ən çox GPU-ya sahib olana məxsusdur.

Tədqiqatın vahidi artıq məqalə deyil

Agent əsaslı iş axınları ayrı layihələri sürətli etdi, yazır Dettmers: bir il çəkən işlər indi həftələr, bəzən günlər aparır. Hər layihə ucuzlaşdıqda dağınıq məqalələr yaxşı tədqiqat sayılmır. "Tədqiqatın vahidi ekosistemdir" — deyir; laboratoriyası indi iki açıq mənbə layihəsi ilə dörd məqaləni bir paket kimi dərc edir — dlab Açıq Mənbə Həftəsi.

Sıravi avadanlıqda sərhəd modelləri

Agentə laboratoriyanın inference çərçivəsinin Mac və Metal tətbiqləri göstərildi və nüvələri təkbaşına optimallaşdırmaq üçün buraxıldı. Nəticə: Qwen 3.6 35B-A3B-nin 1,5 bit/çəki səviyyəsində saniyədə 450 token sürətində kvantlaşdırılmış inference-i — yarımdəqiq modelin tələb etdiyi yaddaşın təxminən onda biri.

Daha böyük modellər də sığır: 125 milyard parametrli Qwen 3.8 Flash Next tək 24 GB GPU-da işləyir; AMD Strix, NVIDIA DGX Spark və ya 128 GB MacBook ilə çərçivə 550 milyard parametrli DeepSeek V4.1-i işə salır. Kontekstin emalı avtomatikdir, inference uzun kontekstlərdə də sürətli qalır.

Yerli şəkildə işləyən avtonom tədqiqat

Həmin komponentlər tamamilə yerli işləyən və internetə çıxışı olmayan avtonom tədqiqat sistemində birləşdirildi. Dettmersə görə, sistem sərhəd laboratoriyalarının deep research sistemlərini, Sakana AI-ın sistemini və Google-un ScientistOne-ını üstələyir. Bioinformatika təcrübəsində agent ucuz problem axtardı; üç namizəd qaytardı və təxminən iki saatda evristik metodlar üçün yeni aşağı sərhəd müəyyən etdi, ədəbiyyatdakı ən yaxşı metodu yoxladı və qiymətləndirmə üçün istifadə edilən məlumat mənbələrində problemlər tapdı — state of the art səviyyəsinə çatmasa da.

Uzun sessiyaları CliffCompaction adlı avtomatik sıxılma texnikası canlı saxlayır; Dettmersə görə bu, Claude Code və ya Codex-dəki avtomatik sıxılmadan xeyli güclüdür. Sessiyalar milyonlarla token davam edir, bəziləri yüz milyonu keçir, ümumi xərc təxminən əlli faiz azalır; bir tərəfdaş ümumi AI büdcəsində 45 faizlik azalma ölçdü. KernelBench-də state of the art səviyyəsinə çatır və AlphaEvolve tipli yanaşmaları və iyerarxik yaddaş sistemlərini geridə qoyur.

Akademiyada intibah

Dettmers iddia edir ki, hücuma ucuz və həlli dəyərli problemlər sahəsi nəhəng və rəqibsizdir, çünki böyük resurslara malik oyunçular miqyasda yarışır. O, CMU-da dörd həftəlik kurs və gələn semestr tam kurs hazırlayır, materialı YouTube-a yerləşdirməyi hədəfləyir.