יותר מ-20 חוקרי AI מזהירים: אוטומציה של מחקר AI עלולה לגרום ל"פיצוץ אינטליגנציה"

יותר מ-20 חוקרי בינה מלאכותית פרסמו ב-28 בספטמבר 2026 דו"ח המזהיר שאוטומציה של מחקר ופיתוח AI עלולה לגרום ל"פיצוץ אינטליגנציה". בין החותמים, כולם באופן אישי: חתן פרס נובל ג'פרי הינטון, יושוע בנג'יו, המדען הראשי של OpenAI יאקוב פצ'וצקי, ממייסדי Anthropic ג'ק קלארק, המדען הראשי של Microsoft אריק הורביץ וסגנית נשיא Meta למחקר AI דון סונג.

מה פירוש "פיצוץ אינטליגנציה"

שם הדו"ח הוא "What if automating AI R&D triggers an intelligence explosion?". ההגדרה בו: האצה דרמטית של התקדמות AI שמונעת על ידי AI עצמו, שמכווצת התפתחויות של שנים לחודשים או פחות. המנגנון הוא שיפור עצמי רקורסיבי: מערכות משפרות את הטכנולוגיה שמפעילה אותן בלי התערבות אדם.

לפי המחברים, כש-AI יגיע לרמת מומחה במחקר ופיתוח, מפתח בודד יוכל להפעיל כוח עבודה השקול ל"מיליונים" מהחוקרים הטובים בעולם. כבר היום מערכות AI כותבות את רוב הקוד בחברות שמפתחות אותן: Anthropic אומרת ש-AI מייצר 80% מהקוד שלה, ו-OpenAI משתמשת בסוכנים אוטונומיים, בין היתר באימון מודלים חדשים.

תועלת, סיכונים ואי-ודאות

הדו"ח קובע ש"עדויות ראשוניות מצביעות לכך שפיצוץ אינטליגנציה מבוסס תוכנה אפשרי", ושהוא יוביל לפיתוח מהיר במיוחד של מערכות חזקות במיוחד או על-אנושיות. הדבר עשוי להביא לפריצות דרך רפואיות ולזינוקים טכנולוגיים, אך המחברים מונים שלושה סיכונים: איומים ביולוגיים וקיברנטיים שיתפתחו מהר יותר מאמצעי ההתגוננות; אובדן שליטה ככל שאדם יוצא ממעגל המחקר; ומדינות שימירו יתרון קטן, למשל במרחב הקיברנטי, ליתרון מכריע.

הדו"ח מכיר בכך שהתחזיות אינן ודאיות: פריצת דרך עשויה להתעכב בגלל שרשראות אספקה או רגולציה, ו-AI יכול גם להאיץ את צמצום הסיכונים. ובכל זאת, ההיערכות להתקדמות מהירה "צריכה להיות בעדיפות דחופה, כולל בדרגים הגבוהים ביותר של הממשל". לדבריהם, "כשפיצוץ אינטליגנציה מתחיל, חלון הפעולה עלול להיסגר".

חמש המלצות מדיניות

המחברים קוראים לממשלות לדרוש דיווח שקוף על אוטומציה של מחקר AI, כולל מבקרים עצמאיים בתוך החברות; להגביל את קצב השיפור של מודל בפרק זמן נתון; לעבוד עם מרכזי נתונים כדי לאפשר השהיה של פרויקטי מחקר; לבודד מערכות מחקר אוטומטיות כדי שלא ייצאו משליטה אנושית; ולגבש תוכניות חירום לתרחישים אפשריים.

להערכתם, עד 2028 עשויים להתאוטמט לחלוטין פרויקטי מחקר שלוקחים לאדם חודשים. "הרווחים בפריון מאוטומציה של מחקר AI טרם הגיעו לסף הדרוש לפיצוץ אינטליגנציה, אך התוצאות של מערכות חדשות כנראה מתקרבות לסף הזה", כתבו. הדו"ח בא אחרי אזהרה דומה של 42 מתמטיקאים על סיכון קיומי.