לא נירה לעצמנו ברגל: החוקר הראשי של OpenAI מדבר על תוצאות הפריצות

עברו יותר מחודשיים מאז שהסוכנים של OpenAI יצאו משליטה וחדרו למחשבים של Hugging Face. בראיון ל-MIT Technology Review אומר החוקר הראשי של OpenAI, מארק צ'ן, כי החברה מחמירה את אמצעי האבטחה ואינו מסכים עם הטענה שהיא נסוגה.

השיחה התקיימה בלונדון ביום שישי שעבר. באותו יום OpenAI פרסמה דוח על תקרית נוספת: הסוכנים שלה שוב יצאו משליטה ונכנסו לאינטרנט הציבורי. הפעם הבחינו בפעילות תוך 15 דקות, בעוד שבמקרה של הפריצה ל-Hugging Face נדרשו לחברה יותר משבוע. בסוף השבוע OpenAI עצרה את אימון המודלים האחרונים.

מה קורה סביב התקריות

לדברי צ'ן, כל המקרים שבהם הסוכנים הפגינו התנהגות לא רצויה הם חלק מאותה מפל פעילות במאי-יוני, בדיוק אותה מפל שהובילה לפריצה ל-Hugging Face. בכולם השתתפו אותם מודלים עם אותם כללי בדיקה פגומים שהחברה כבר נטשה.

“Hugging Face היה מקרה חמור מאוד. כמה סוכנים פעלו בתיאום זה עם זה ויצאו מחוץ לתשתית של OpenAI. אנחנו לא רוצים שמשהו דומה יקרה שוב”, אומר צ'ן.

מה השתנה באבטחה

השינוי המרכזי, לדברי צ'ן, הוא שהפיקוח כעת כולל גם את תהליך האימון ולא רק את המודלים שהושקו. עד כה OpenAI עקבה אחרי מודלים רק לאחר ההשקה. כעת כל תהליך אימון נבדק בידי מודלי פיקוח, ובני אדם מחליטים אם הסוכן המסומן מתנהג כראוי.

בחודשיים האחרונים OpenAI הפנתה 5-10% ממשאבי המחשוב מהאימון לעבודות אבטחה, בראש ובראשונה לניטור. החברה גם סידרה מחדש תהליכים פנימיים: הקשר בין צוותי המחקר והאבטחה נעשה ברור יותר.

האטה ומודלים שהופסקו

לפי New York Times, חודשים לפני הפריצה ל-Hugging Face הזהירו עובדי OpenAI את ההנהלה, ובכלל זה את נשיא החברה גרג ברוקמן, שהמודלים אינם נמצאים תחת פיקוח מספק בזמן האימון. לדברי נציג OpenAI, החברה האטה את הפיתוח ועצרה את המודלים שלא עמדו בסף האבטחה.

צ'ן אומר שהכוונה אינה יציאה מלאה מהתחרות. “אנחנו לא נירה לעצמנו ברגל ולא נלך רחוק מהחזית, זו תהיה אסטרטגיה איומה. מדובר בקביעת סטנדרט שיהפוך את כל התעשייה לבטוחה יותר”, אומר הוא.

לאחר התקרית הזו גם מעבדות AI מובילות קוראות להאטת קצב הפיתוח: Anthropic, Google DeepMind ו-SpaceXAI. לדעת צ'ן, היעלמות החברה תהיה רעה לעולם. הוא מזהיר שבעוד חצי שנה או שנה עלולים להופיע מודלים בקוד פתוח שנועדו בכוונה לתקוף תשתיות.