חוקרי AI בסרטונים: סופר-אינטליגנציה מסוכנת בדיוק כמו שזה נשמע

הארגון ללא מטרות רווח Palisade Research, שחוקר את היכולות והמניעים של בינה מלאכותית, פרסם סדרת ראיונות וידאו באתר frominside.ai. לפי The Verge, השיחות הוקלטו עם עובדים נוכחיים ולשעבר של OpenAI, Google ו-Anthropic, ובהן החוקרים מדברים בגלוי על הסיכונים שהם עצמם יוצרים.

את הפרויקט הוביל Eli Tyre, המפיק בפועל היה John Steidley, והעורך הראשי היה Rudy Behrens. האתר נבנה על ידי Lightcone Infrastructure.

הסתברות להכחדה ובעיית השליטה

עובד לשעבר ב-OpenAI וב-Google DeepMind, Geoffrey Irving, מצהיר שלפי הערכתו הסיכוי להכחדת האדם שווה להטלת מטבע. לדברי חוקר Google DeepMind, Neel Nanda, ההסתברות היא לפחות 10%, וזה נתון גבוה באופן בלתי נתפס. חוקר לשעבר ב-OpenAI, Daniel Kokotajlo, אומר שסופר-אינטליגנציה תהיה חזקה כמו אל ואיש אינו יודע איך לשלוט בה, ולכן אסור ליצור אותה.

למה הם עובדים על מה שהם מחשיבים למסוכן

חלק מהסרטונים עונה על שאלות: האם כל זה רק שיווק, ולמה אדם נשאר בפרויקט שהוא עצמו מחשיב למקור אפשרי לאסון. עובדת Google, Mary Phuong, אומרת שיש לקבל את דבריה בספק, מכיוון שהמעבדה משלמת לה שכר. Nanda מסביר שהוא היה עוזב את העבודה אילו לא היה מאמין שעבודתו מפחיתה את הסיכונים האלה, אם כי החברות לא יעצרו בניית מערכות בגלל עזיבתו.

למה זה חשוב עכשיו

הסרטונים פורסמו באותו שבוע שבו OpenAI עצרה את השקת המודל הדגל Astra בגלל בטיחות, ובמקום זאת שחררה את GPT-6.1 Sol הזול, מה שאומר שהמעבדות עצמן מכירות בסיכון שבהשקת המערכת החזקה ביותר שלהן.

הפרויקט עצמו אינו מציע פתרון אחד וממליץ לקורא לעיין בסקר של חוקרי AI Impacts כדי לקבל תמונה מייצגת יותר של התחום.