חוקרי DeepMind הציגו „אינטליגנציה סימביוטית מלאכותית" כאלטרנטיבה לסינגולריות

אנסמבל ולא מודל אחד

חוקרים הקשורים ל-Google — Benjamin Bratton, Blaise Agüera y Arcas ו-James Manyika — טוענים במאמר של DeepMind Institute כי אינטליגנציה מלאכותית כללית (AGI) לא תופיע בדמות סופר-אינטליגנציה אחת ומשפרת עצמה. היא תיווצר בתוך קהילת סוכנים, שבה היכולות הקולקטיביות עולות על אלו של מודל בודד; תפיסה זו המחברים מכנים „אינטליגנציה סימביוטית מלאכותית": אקוסיסטמה שבה בני אדם ומכונות קיימים יחד ומקבלים החלטות ביחד.

לפי תצפיות המחברים, סוכני AI המתקדמים ביותר היום אינם מודלים בודדים אלא מערכות שמחלקות עבודה בין מספר מודלים ומתאמות אותם כצוותים. היכולות אינן טמונות במשקלים הבודדים של מודל אלא באנסמבל כולו: במסגרות התיאום, במאגרי הידע, בפרוטוקולי האינטראקציה ובמיליארדי משתמשים אנושיים. משימת המחקר המרכזית משתנה: במקום לבנות אינטליגנציה מכוניתית מבודדת, העיקר הוא לתאם את הרשת של סוכנים ובני אדם.

סוכן כמבנה מפרקי

עבור המשתמש, סוכן AI הוא דמות אחת אחידה, אך במציאות הוא אוסף זמני של מודלים, תפקידים, זיכרונות, כישורים וכלים, אותם ניתן לפרק ולהרכיב מחדש. לפי המחברים, תיאור של מערכות כאלה „כדגים דיגיטליים" פוגע באופי האמיתי שלהן.

המאמר מצביע על מקבילה למהפכה התעשייתית: אז מכונות לקחו על עצמן את עבודת השרירים של בני אדם, כעת עשויה להגיע „נקודת המעבר הקוגניטיבית", כאשר נפח הטקסט הסינטטי, הקוד והניהול יעלה על סך העיבוד הביולוגי של המוחות; בני אדם כנראה יתנהגו אז באופן איטי ואבסטרקטי יותר.

מוסדות והתאמה

בקנה מידה גדול, תיאום רב-סוכני לא יכול להסתמך על אינטליגנציה של סוכנים בודדים אלא גם לא על מנגנוני שוק; יש צורך במוסדות מוטמעים, בדומה לרשתות היברידיות של בני אדם ו-AI, אך גם במערכות סוכניות טהורות, שבהן התפקידים מוגדרים מראש ולא משנה מי או מה ממלא אותם. אינטליגנציה קולקטיבית נמצאת בכללי המבנה, בנהלים ובמנגנוני המשוב; סימן לכך הם מסגרות התיאום, שלעיתים קרובות עולות על מודלים בודדים, נומינלית אינטליגנטיים יותר.

המחברים אינם רואים בהתאמה (alignment) מגבלה מוטמעת מראש, אלא כ„תוצאה של אינטראקציה עמוקה ואורגנית בין בני אדם, סוכנים ומוסדות". לפי הערת The Decoder, במודלי ההיסק כבר ניתן לראות סימנים של חשיבה קולקטיבית: במהלך הלמידה הם מפתחים בעצמם התנהגות רב-פרספקטיבית ודיאלוגית. העבודה מתבססת גם על פרפרינט מוקדם של המחברים „Agentic AI and the next intelligence explosion“.

מדובר בטיעון קונצפטואלי ולא במחקר שעבר ביקורת עמיתים, אך הוא שואל שאלה ישירה על הנרטיב של הסינגולריות. המחברים טוענים שהמחקר בכיוון זה חייב לכלול מלבד טכנולוגיה גם סוציולוגיה, פסיכולוגיה, משפט וכלכלה.