יוצר AlphaGo, דיוויד סילבר, מקים חברה בשם Ineffable Intelligence לבניית סופר-אינטליגנציה

פריצת דרך חדשה בלמידה מחזקת

דיוויד סילבר, שתכנת את AlphaGo שזכתה ב-2016 באליפות העולם במשחק Go, הקים חברה חדשה בשם Ineffable Intelligence. הסטארטאפ בונה סופר-אינטליגנציה באמצעות למידה מחזקת: המודלים רוכשים מיומנויות חדשות דרך ניסיון וטעיות. המטרה היא "סופר-למדנים" שיעלו על האדם בתחומים רבים.

האסטרטגיה מבדילה את החברה מרוב התעשייה, שכן אחרים מחפשים סופר-אינטליגנציה דרך הגדלת מודלי שפה גדולים. סילבר טועש שהדרך הזו מובילה לכשלון. "כמה שה-LLMs גם יהיו מדהימים, הם לומדים מהאינטליגנציה האנושית ולא יוצרים משלהם," הצהיר ל-Wired. "המשימה היא ליצור את המגע הראשון עם סופר-אינטליגנציה."

נתונים אנושיים כמו דלק מינרלי

לפי סילבר, אימון על נתונים אנושיים מוגבל. "נתונים אנושיים דומים לדלק מינרלי שסיפק לנו דרך קצרה מדהימה," הוא אומר. "מערכות למידה עצמאית הן דלק מתחדש, משהו שלומד ללא הגבלה, ללא סף."

סילבר מדגים את החולשה בגישת ה-LLM באמצעות ניסוי מחשבתי: דמיינו מודל שפה בעולם שבו מאמין שכדור הארץ שטוח. ללא קשר לעולם האמיתי, הוא יישאר נאמן לתפיסתו שכדור הארץ שטוח, גם אם הקוד ישתפר. AI שלומד את העולם בעצמו כן יכול לעשות תגליות אמיתיות. ה-AI הנוכחי הוא בעיניו כמו ביולוגיה פרה-דרוויניסטית.

סימולציות, בטיחות ומימון

האתגר הטכני המרכזי הוא המעבר מעולמות מדומים כמו Go למורכבות העולם האמיתי. לפי סילבר, הפתרון טמון בסימולציות של סוכני AI, שם הם לומדים מטרות ושיתוף פעולה. פרטים נוספים הוא לא חשף.

הגישה נוגעת גם בבעייית היישור: באמצעות ניטור סוכנים בסימולציות, חוקרים יכולים לראות כיצד הם מתנהגים כלפי אחרים, כולל מערכות פחות אינטליגנטיות. ראבי מהטרה, שותף ב-Lightspeed Ventures, אומר שסילבר חקר אותו בתשאולים קשים על בטיחות והוא משוכנע: השיטה היא דרך טובה יותר ל-AI מיושר, מכיוון שהיא תלויה פחות בהתנהגות אנושית.

Ineffable Intelligence גייסה 1.1 מיליארד דולר בסבב ראשוני בהערכה של 5.1 מיליארד דולר, סכום עצום לסטנדרטים האירופיים. סילבר משך חוקרים מובילים מ-Google DeepMind וממעבדות מובילות נוספות והתחייב לתרום את כל הסכום שיקבל מהחזקותיו לארגונים חברתיים בעלי השפעה גבוהה.

מוניטין יוצא דופן

ההישגים העבריים של סילבר מעניקים לו אמינות יוצאת דופן. המנטור שלו, ריץ' סאטון, זכה ב-2025 בפרס טיורינג יחד עם אנדרו ברטו על אלגוריתמים מוקדמים של למידה מחזקת. התחום נוטה כיום לכיוון ה-LLMs, אך למידה מחזקת נותרה מהותית: היא אפשרה לצ'אטבוטים לקבל משוב אנושי ואפשרה התקדמות במתמטיקה ובתכנות.

סוניה הואנג מ-Sequoia Capital, משקיעה בסטארטאפ, אומרת שיש מעט אנשים עם תרומה בסיסית כל כך ל-AI וסילבר הוא אחד מהם. אנדרו דאי, שעבד איתו ב-Google DeepMind, מעריך את הרעיונות שלו ואת סגנון הניהול: הוא מכבד דעות אחרות ומעניק חירות לחוקרים. עבור סילבר עצמו, המדע הוא העיקר. "מנקודת המבט של מדע טהור, זו המשימה המדעית החשובה ביותר שאפשר להגיע אליה," אמר.

מקורות: Wired · Financial Times · Techmeme