AI חזיתי על החומרה שלכם: שבוע הקוד הפתוח של dlab

בכיתה של 150 סטודנטים שאל טים דטמרס שאלה שלדבריו חשש לשאול: מי מפחד שלא ימצא עבודה אחרי הלימודים? כשמונים אחוזים הרימו יד. בפוסט מ-21 בספטמבר הוא טוען שהפחד נשען על הנחה מוטעית — שמעתיד המחקר שייך למי שיש לו הכי הרבה GPUs.

יחידת המחקר כבר אינה המאמר

תהליכי עבודה מבוססי סוכנים הפכו פרויקטים בודדים למהירים, כותב דטמרס: עבודה שנדרשה לה שנה נמשכת כעת שבועות, לעיתים ימים. כשכל פרויקט נעשה זול, מאמרים מפוזרים מפסיקים להיחשב מחקר טוב. "יחידת המחקר היא האקוסיסטם", הוא כותב; המעבדה שלו מוציאה כעת שני פרויקטים בקוד פתוח וארבעה מאמרים כחבילה אחת — שבוע הקוד הפתוח של dlab.

מודלים חזיתיים על חומרה רגילה

סוכן הופנה למימושים של Mac ו-Metal במסגרת ההסקה של המעבדה והושאר לבדו לייעל את הקרנלים. התוצאה: הסקה מכומתת של Qwen 3.6 35B-A3B בקצב 450 טוקנים לשנייה ב-1.5 ביטים לכל משקל — כעשירית מהזיכרון שמודל בחצי דיוק דורש.

גם מודלים גדולים יותר נכנסים: Qwen 3.8 Flash Next עם 125 מיליארד פרמטרים רץ על GPU בודד של 24 ג'יגה-בייט; עם AMD Strix, NVIDIA DGX Spark או MacBook עם 128 ג'יגה-בייט זיכרון, המסגרת מריצה את DeepSeek V4.1, מודל עם 550 מיליארד פרמטרים. הטיפול בהקשר אוטומטי, וההסקה מהירה גם בהקשרים ארוכים.

מחקר אוטונומי שרץ מקומית

אותם רכיבים אוחדו למערכת מחקר אוטונומית שרצה כולה מקומית, בלי אינטרנט. לדברי דטמרס היא עולה על מערכות מחקר עמוק של מעבדות חזית, על המערכת של Sakana AI ועל ScientistOne של גוגל. בניסוי בביואינפורמטיקה הסוכן חיפש בעיה זולה; הוא החזיר שלושה מועמדים, ובכשעתיים קבע חסם תחתון חדש לשיטות היוריסטיות, בדק את השיטה הטובה בספרות ומצא בעיות במקורות הנתונים להערכה — אך לא הגיע לחזית התחום.

את השיחות הארוכות מחזיקה טכניקת הדחיסה האוטומטית CliffCompaction, שלדברי דטמרס חזקה במידה ניכרת מזו שב-Claude Code או Codex. שיחות נמשכות מיליוני טוקנים, וחלקן מעל מאה מיליון, בעוד העלות הכוללת יורדת בכחמישים אחוזים; שותף אחד מדד קיצוץ של 45 אחוזים בתקציב ה-AI שלו. ב-KernelBench היא מגיעה לחזית התחום, לפני גישות בסגנון AlphaEvolve ומערכות זיכרון היררכיות.

רנסנס באקדמיה

דטמרס טוען שמרחב הבעיות שזול לתקוף ויקר לפתור הוא עצום ולא תחרותי, משום ששחקנים עתירי משאבים מתחרים בקנה מידה. הוא מכין קורס בן ארבעה שבועות ב-CMU וקורס מלא בסמסטר הבא כדי להעלות את החומר ליוטיוב.