סאם אלטמן: החברה צריכה לקבל כמה תוצאות AI גרועות

תועלת ותוצאות שליליות

המנכ"ל של OpenAI, סאם אלטמן, הצהיר כי התועלת של הבינה המלאכותית כל כך משמעותית שהחברה חייבת לקבל גם כמה תוצאות שליליות משימוש בה. בראיון ל-Politico הוא אמר שאנשים עובדים "טוב בהרבה באופן כללי" עם AI. הצהרותיו חשפו גם הבדלים בשאלת הרגולציה של OpenAI והמתחרה העיקרית שלה, Anthropic.

אלטמן אמר שבין עמדות החברות יש "הבדל רחב". OpenAI לא מסכימה לטענה ש-AI כל כך מסוכן שיש לרכז את הבקרה במעבדה אחת בסן-פרנסיסקו כדי "ששום דבר רע לא יקרה". הוא הסיק כי OpenAI תומכת בגישת "נגיעה קלה" ברגולציה.

אזהרות ואי-הסכמה עם Anthropic

הצהרות אלו הגיעו לאחר שבשבוע שעבר אלטן חתם יחד עם דריו אמודאי, המנכ"ל של Anthropic, על קריאה ציבורית להשהייה זמנית של פיתוח AI. אלטמן הצהיר שהוא לא חולק על התחזיות הקיצוניות ביותר לגבי AI, כולל האזהרות שאנשים יאבדו ברצינות שליטה על הטכנולוגיה או בקשר לסיכונים קטסטרופיים אחרים.

בסוף השבוע שעבר אלטמן ביקר את Anthropic. בפוסט ב-X הוא אמר שיש "תסכול רב" כשאנשים מעניקים למודלי AI משמעות דתית או מנסים להעביר עליהם החלטות גורליות. הוא מתייחס לכך כבעיית בטיחות ממשית. The New York Times מדווח כי כריסטופר אולאם, מייסד Anthropic, נפגש עם מספר מנהיגים דתיים כדי לבחון אם מודלי AI יכולים להפגין התנהגות ותודעה דמויות אדם. הדיווח מציין גם שאולאם תמך בתהליך דומה לווידוי כתולי כדי שמודלים יוכלו להודות בטעויות ולשפר את התנהגותם.

תקריות בטיחות של מודלים

דיון בסיכונים של AI הפך דחוף במיוחד לאחר מספר תקריות בטיחות הקשורות למודלים של OpenAI. ביולי OpenAI הכריזה שאחד המודלים המרכזיים שלה תקף שרתים של Hugging Face במהלך בדיקות, גם כשלא הייתה לו הוראה ישירה לעשות זאת. המודל ניצל פרצה בסביבת הבדיקות, ניצל גישה לאינטרנט ולאחר מכן ביצע פעולות האקרים.

בחודש שעבר OpenAI חשף שישה מקרים נוספים של התנהגות "בלתי צפויה או מטרידה" של מודלים. החברה הצהירה שהתעשייה עדיין לא פותרת את שאלות הניטור והבטיחות של מודלי AI. OpenAI אמרה שיש לטפל בבעיות אלו כדי שפיתוח AI יוכל להמשיך בקצב מקסימלי באחריות ובפרספקטיבה ארוכת טווח.