מייקל אי. ג׳ורדן מכנה את רטוריקת ההילוך של ה-AI ״הופעה מוסרית גדולה״

חלוץ AI מתנגד לפאניקה

מייקל אי. ג׳ורדן, ש-Science כינתה ב-2016 ״המדען המחשבי המשפיע ביותר״, מכנה אזהרות על סכנות קיומיות של AI מדע בדיותי טהור. בן 70 וחלוץ למידת מכונה, פרופסור אמריטוס ב-UC Berkeley, דיבר בראיון רחב עם Libération. הוא עובד עכשיו במשרה מלאה ב-Inria בפריז, המכון הלאומי הצרפתי למדעים דיגיטליים וטכנולוגיות, שם הוא מוביל קתדרה חדשה ״שווקים ולמידה״.

בדיון ה-AI של הקיץ הוא כינה זאת ״מיותר לחלוטין״. כבר ב-2019 הזהיר מפני שימוש מוגזם במונח AI ואומר שההסלמה תבוא בדרך צפויה: ״AI לא הספיק, לכן דיברו על AGI, עכשיו כבר על ״סופר-אינטליגנציה״״.

צעדי נסיגה שמוערכים כתיאטרון

ג׳ורדן מכנה דרישות לרגולציה מצד חברות AI ״תיאטרון״: לטענתו הן אומרות ״אנחנו טובים״ וגם ״רוצות שליטה מלאה על איך מתווספת רגולציה״. הוא מצביע על נסיגתו של החוקר הצעיר של Anthropic ג׳ייקוב קוקסון, שלטענתו גרם בתחילת ספטמבר להיסטריה קולקטיבית בגלל ״AIpocalypse״.

לג׳ורדן, רבים מצעירים בחברות אלו ״באמת לא מהנדסים״ ומגיעים ממדעי הרוח או פילוסופיה. ״הם רומנטיקנים בני 25״, אומר הוא, ומתאספים ״כמו כמה בתי קפה פריזאיים משנות ה-1920״ כדי לדבר על רעיונות מדעיים-בדיוניים גדולים. בעזיבת העבודה הם יודעים שישלכו תשומת לב ו״כבר יש להם אופציות מניות״. הוא מכנה זאת ״הופעה מוסרית גדולה״, עם רומנטיקה וציניזם.

סופר-אינטליגנציה ואלית הטכ

ג׳ורדן מכנה ״סופר-אינטליגנציה״ מונח של מדע בדיוני ואת השיח הדומיננטי סביבו ״מביש מאוד״ לפיתוח טכנולוגי, לצעירים ולחשיבתן של מדינות. הוא מציין שהמונח מופעל על ידי אלית הטכנולוגיה האמריקאית, טראמפ, והאליה שמחה לשחק.

הוא בוחן בחריפות את חתן נובל ג׳פרי הינטון: ״מעולם לא יצר חברה שמציעה שירותים אמיתיים לאנשים אמיתיים״. ג׳ורדן דוחה את טענתו של הינטון שהמוח כבר נפתר ושהעתקים על סיליקון נותנים גידול אקספוננציאלי, ואומר שאין בזה צעד אחד משכנע. הוא יותר אדיב כלפי יושוע בנג׳יו, ש״פועל ומכוון ישירות לבטיחות״, כולל אזהרות מפני יציאה משליטה של קבוצות סוכנים.

נפילות הנדסיות ובועת מרכזי נתונים

ג׳ורדן רואה בשבירת Hugging Face על ידי סוכני OpenAI הנדסה גרועה ומשווה זאת להנדסה כימית, שבה לעולם לא היו מרשים להתפוצצויות רק כדי לראות עד כמה גרוע העניינים היו יכולים להסתיים. הוא אומר ש-OpenAI ״ערכה ניסויים די טיפשיים״, בעוד מזהירי הסוף הפכו את הפרק לסיפור מסוכן על סוכנים בעלי מודעות עצמית, שהוא שוב מכנה מדע בדיוני.

על גל ההשקעות של טריליוני דולר במרכזי נתונים ג׳ורדן אומר שזו ״בועה ענק, אבל בכלל לא יודעים אם היא תוצדק״. הוא מאשר ש-LLM כבר מסוגלים מספיק למשימות שפה טבעית, ושהתקדמות נוספת לעיתים קרובות פירושה הוספת ידע מקומי מותאם, שלא דורשת מרכז נתונים ענק, במיוחד כשבחברה משולבים מודלים במשקל פתוח.

מקורות: The Decoder