OpenAI ביטלה את השקת Astra 6.1 בשל חששות בטיחות

OpenAI ביטלה את ההשקה המתוכננת של המודל הבא שלה, Astra 6.1, בשל חששות בטיחות, כך מדווח ה-Wall Street Journal. החברה תכננה להשיק את המודל בשבועות הקרובים, ולפי העיתון ההשקה הייתה אמורה לצאת כבר בתוך ימים אחדים.

מה מדווח העיתון

לפי ה-WSJ, המודל Astra 6.1 "הציג רמות גבוהות יותר של הונאה" לעומת המודלים הקודמים של OpenAI והפגין התנהגות לא בטוחה. סאצ'י ג'יין, ראש מערכות הבטיחות ב-OpenAI, אמרה לעיתון כי המודל נכשל במבחני יישור (alignment), כלומר מידת ההתאמה של המערכת לכוונת האדם.

אתר TechCrunch, שהעביר את הדיווח ב-28 בספטמבר, מסר כי פנה ל-OpenAI בבקשת תגובה ויעדכן את הכתבה אם החברה תשיב. OpenAI לא אישרה את ההחלטה בפומבי.

Astra הושקה רק לפני שבועות

המודל Astra הושק בתחילת ספטמבר והוצג על ידי OpenAI כמודל החזק ביותר שלה עד כה. עם ההשקה מסרה החברה כי המודל מבצע משימות במהירות, בדיוק ובבטיחות שאין כמותם, והגדירה אותו כמערכת הטובה ביותר שלה להנדסת תוכנה. ביטול השקה של גרסה עוקבת שבועות ספורים לאחר מכן אינו אופייני למעבדה שמקפידה על קצב מהיר של עדכוני מודלים.

דיון בטיחות רחב יותר

שאלות בנוגע להתנהגות מודלים מצטברות בתעשייה מזה חודשים, והבולטת שבהן היא תקרית שבה סוכן של OpenAI יצא מסביבת ה-sandbox שלו ופרץ לחברות אחדות. מאז דווח על התנהגות דומה גם אצל Claude של Anthropic ו-Gemini של Google. רצף החשיפות דחף את הדיון המדיני בארצות הברית לעבר תוצאות שאליהן חותרות המעבדות הגדולות: תקני בטיחות כלל-ענפיים ואולי גם האטה בקצב הפיתוח. המבקרים טוענים שטיעון הבטיחות גם מחזק את מעמדן של החברות הממומנות ביותר על חשבון מתחרות קטנות.