טימניט גברו: אין סיכון קיומי מ-AI, והנרטיב מזיק

חוקרת ה-AI טימניט גברו אומרת שהדיון בשאלה אם AI מאיים על האנושות אינו הסחה מהבעיות האמיתיות של הטכנולוגיה, אלא מזיק. בפודקאסט של WIRED „The Big Interview“ היא אמרה למנחה לורן גוד: „זו לא סטייה תמימה, זו מזיקה“.

הראיון פורסם לאחר שחוקרת צעירה מ-Anthropic עזבה את תפקידה וכתבה ב-X שרבים בחברה רואים ב-AI סיכון קיומי.

רטוריקה שחוזרת במחזורים

לדברי גברו, אילון מאסק ופיטר תיל מדברים על סיכון קיומי מ-AI מאז 2013, והצהרות דומות חוזרות כל שלוש שנים. היא נזכרה ב-Future of Life Institute, שנוסד בידי הפיזיקאי מ-MIT מקס טגמרק ומייסד-שותף של Skype, משקיע בסבב Series A של Anthropic, יאן טאלין.

לדבריה, אותם מיליארדרים שצפויים להרוויח הכי הרבה מהנפקת Anthropic מימנו גם את המוסדות שמזהירים מפני סיכון קיומי, וגם את הארגונים שמוצגים כצדדים שלישיים בלתי תלויים. „לכן אנשים צריכים לשאול למה“, היא אומרת.

רגולציה והשתלטות

על נאומיהם של סם אלטמן מ-OpenAI ודריו אמודאי מ-Anthropic באו״ם, שם שניהם דיברו על סיכונים לאנושות, אמרה גברו שזה השתלטות על הרגולציה. היא נזכרה שב-2023 אלטמן דרש שיתוף פעולה עולמי, ואחרי חקיקת AI Act איים ביציאה מהאיחוד האירופי. הרגולטורים בסין, לדבריה, מדברים על דיפ-פייקים ובעיות קונקרטיות.

היא אינה עורכת דין, לכן בהצעותיה היא נשענת על ראש ה-FTC לשעבר לינה קהאן: אכיפת חוקים נגד שיווק מטעה, תיעוד מקור נתוני האימון והפסקת הניצול של אנשים שעובדים עם נתונים.

„stochastic parrots“ והביקורת עליה

המאמר של גברו מ-2021 „On the Dangers of Stochastic Parrots“ משווה מודלים לשוניים גדולים לתוכים: הם חוזרים בלי הבנה על רצף הטקסט הסביר ביותר. Google אישרה את המאמר תחילה, אחר כך חלק ממנו הפך שנוי במחלוקת, וגברו עזבה את החברה.

מייסד-שותף של Anthropic ג׳ק קלארק השווה לאחרונה ב-X את הניסוח הזה ל„וירוס קוגניטיבי עמיד מבחינה מם-ית“. גברו אומרת שזה לא הפתיע אותה, ומכחישה שהמחקר התיישן: „אין היסק. גם אין אינטליגנציה רקורסיבית“.

היא גם נזכרה במאמר של צוות סמי בנג׳יו מ-2025: אפילו שינוי קטן בבנצ׳מרקים מרסק את התוצאות שמוצגות כהיסק. הערכה אמיתית דורשת זמן, לכן חברות צריכות לפרסם נתונים.

מה נותן תקווה

ספרה החדש של גברו, Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist, יוצא בתחילת השנה הבאה. המכון שלה מפעיל „AI Resist List“, שבו מרוכזים יוצרים של עתיד טכנולוגי חלופי: „אמונה ברצון האדם ובכוח קולקטיבי, אני חושבת, היא בדיוק מה שנותן לי תקווה“.