OpenAI מאטה את פיתוח Astra בשל חשש ליכולות סייבר קריטיות

מה קרה

OpenAI הודיעה ל-Axios כי היא "אינה יכולה לשלול יכולות סייבר קריטיות" במודל Astra העתידי שלה. לדברי החברה, הערכות פנימיות הצביעו על התקדמות משמעותית בקידוד סוכני ובאבטחת סייבר — הרמה החמורה ביותר ב-Preparedness Framework שפורסם ב-2023.

החברה מגבירה בדיקות ואבטחה ומאטה את הפיתוח של Astra, ומשהה פעילות פנימית שאינה עומדת בדרישות מחמירות. המסגרת דורשת אמצעי הגנה עוד לפני ההשקה.

בקרות מחמירות ושחרור מעוכב

לפי הדיווח, OpenAI מיישמת סביבות בדיקה מבודדות, ניטור אוניברסלי ביישומים סוכניים, הגבלת גישה לרשת ולכלים והצפנת משקולות המודל. מועד ההשקה עלול להידחות עוד יותר.

"OpenAI הודיעה לממשל מרצונה על התוכניות לעכב את ההשקה", אמר גורם בבית הלבן. ימים קודם לכן, בכנס Black Hat, אמרו עובדי OpenAI כי החברה "מאטה במודע את המחקר כדי לחזק את האבטחה".

מדוע זה חשוב

יכולות סייבר התקפיות הן כעת קטגוריית בטיחות ממדרגה ראשונה במעבדות המובילות, ומהירות מוקרבת למען אבטחה. ארגונים צריכים לצפות לאי-ודאות בלוחות זמנים של המודלים החזקים ביותר וליותר שערי בטיחות בתהליכי סוכנים.

📖 מקור