The Download: מדוע הפריצות והפחדים האחרונים בתחום הבינה המלאכותית עשויים להיות יותר הייפ מאשר מציאות

הניוזלטר היומי The Download של MIT Technology Review הקדיש את גיליון 22 בספטמבר ל"קיץ של הייפ" סביב הבינה המלאכותית. המאמר המרכזי הוא טור דעה מאת טימניט גברו, המנהלת בפועל של המכון המבוזר לחקר הבינה המלאכותית (DAIR), ואמילי מ. בנדר, פרופסורית לבלשנות באוניברסיטת וושינגטון. השתיים טוענות שההצהרות הרמות של החודשים האחרונים דומות יותר לשיווק מאשר לפריצות דרך אמיתיות.

מה מתארות המחברות

ציר הזמן מתחיל בסוף אפריל, כשאנת'רופיק הצהירה שהמודל שלה Claude Mythos מאתר פגיעויות תוכנה טוב יותר מרוב מומחי האבטחה. אחר כך אירע תקרית הפריצה של OpenAI ו-Hugging Face, שלאחריה חשפו אנת'רופיק ומטא מקרים דומים משלהן. זמן קצר לאחר מכן הצהירה אנת'רופיק על פריצת דרך מתמטית, ו-OpenAI הצהירה על פריצת דרך משלה. לאחרונה עורר המהנדס ג'ייקוב קוקסון מאנת'רופיק תשומת לב רבה כשאמר שהחברות צועדות לקראת סופר-אינטליגנציה שמשתפרת מעצמה ומסכנות חיי אדם.

מה מצאו הבדיקות העצמאיות

מומחי סייבר אומרים שסיפור הפריצה עוסק בעיקר ברשלנות של OpenAI ובכישלונה ליישם שיטות אבטחה מקובלות, ולא במודלים שיצאו משליטה. מתמטיקאים, שנדהמו בתחילה מהצהרת OpenAI על הצ'אטבוט Astra, הגיעו בהמשך למסקנה שהתוצאות פחות חדשות מכפי שנדמה היה, והאשימו את החברה בהתנהלות מחקרית פסולה ובגניבה ספרותית. פרופסור טריסטן בקמאסטר ממכון קוראנט באוניברסיטת ניו יורק פרסם הצהרה שלפיה OpenAI השתמשה בעבודתם של אחרים בלי לייחס אותה כראוי.

למה זה חשוב

גברו ובנדר טוענות שכינויים כמו "סופר-אינטליגנציה" או "מודל סורר" מייחסים כוונה למוצר במקום לחברות שבונות אותו. כך משווקים המוצרים כ"על-אנושיים" ובמקביל מסייעים לחברות להתחמק מאחריות. הן מפנות לקריאה של מאות מתמטיקאים, שלפיה לתעשייה יש אינטרס מסחרי חזק להגזים ביכולותיה, ומבקשות מקובעי המדיניות להתייעץ עם מומחים עצמאיים ולא עם הודעות לעיתונות. הן מוסיפות שהתעשייה מכנה את ההתנגדות הציבורית למרכזי נתונים "הסחת דעת", בשעה שהבעיות האמיתיות הן חשבונות החשמל, השימוש במים וזיהום האוויר.

עוד ידיעות מאותו גיליון

הניוזלטר מדווח גם ש-22 מדינות קראו להקים גוף עולמי חדש לפיקוח על בינה מלאכותית, עם בדיקות לפני פריסה ותקני בטיחות משותפים, בעוד ארצות הברית וסין לא הצטרפו להצהרה. טקסס עצרה היתרים חדשים למרכזי נתונים עד לסיום ביקורת על מערכת החשמל, וקליפורניה אישרה חוקים בנוגע לצריכת חשמל ומים. AMD הפכה לחברה השתים-עשרה בשווי טריליון דולר לאחר שמכירות שבבי בינה מלאכותית העלו את מנייתה ביותר מ-180% השנה. וסוכן הבינה המלאכותית Muse של מטא עקף את ChatGPT והגיע לראש חנות האפליקציות בארצות הברית.