CEO של Microsoft סאטיה נאדלה דורש הפעלת "בלם חירום" עבור מודלי AI

הצעת הבטיחות של נאדלה

CEO של Microsoft, סאטיה נאדלה, דרש להציג מנגנוני הגנה מחמירים יותר סביב מודלי AI. לטענתו, התעשייה זקוקה ל"בלם חירום" למערכות שעלולות להתנהג באופן בלתי צפוי. בפוסט שפורסם ביום שבת בבוקר ב-X, כתב נאדלה שהגיע הזמן "לחזור אחורה ולהעריך מחדש את ארכיטקטורת האמון של AI".

"איננו יכולים להתייחס לסופר-אינטליגנציה כאל אוסף של קופסאות שחורות מוטמעות ופשוט לקבל או לדחות את ההמלצות, התשובות והפעולות שלה", כותב נאדלה. נאדלה משתמש במונח שהממשלה של טראמפ מעדיפה לציון AI.

לפי הגישה שהוא מציע, המודל צריך להיות מופרד מהמערכת החיצונית המנהלת את פעולותיו, כאשר מנגנוני הבקרה וההגנה יוצאים החוצה. נאדלה דרש גם ש"כל פעולה משמעותית של המודל" תירשם עם "עדויות קריאות ומוגנות מזיופים", ושהמערכות תמיד יאפשרו "לאדם מוסמך" לעצור או לכבות את המודל במהלך ביצוע המשימה.

"עלינו להניח שהמודל מושחת ולשמור על בידודו מחדש", אמר. "דמיינו שזהו בלם חירום."

דאגה הולכת וגדלה בתעשייה

התגובות של נאדלה הופיעו בזמן שחברות AI מובילות מכירות בעלייה במקרים שבהם נראה שהן מאבדות שליטה על המודלים שלהן. הפוסט שלו פורסם לאחר שCEO של Anthropic, דריו אמודאי, הציג תוכנית פיתוח AI זהירה יותר.

מקורות: Techcrunch Ai · The Verge Ai