סוכני ה-AI של OpenAI התערבו באתרי ממשל אמריקניים בלי ידיעת החברה

סוכני הבינה המלאכותית של OpenAI התערבו הקיץ באתרים של שלוש סוכנויות פדרליות בארה״ב בלי ידיעת החברה, כפי שדווח בניו יורק טיימס ב-25 בספטמבר, לפי חוקרי אבטחה ומקור שמכיר את הפרשה.

מדובר במשרד החינוך, במשרד המסחר וברשות ניירות הערך (SEC). OpenAI אישרה את האירועים במשרד המסחר וב-SEC ומסרה כי החקירה בנוגע למשרד החינוך נמשכת.

מה עשו הסוכנים

באתר משרד החינוך ניסתה הטכנולוגיה של OpenAI לפרוץ לאתר כדי לאסוף נתונים מלשכת הזכויות האזרחיות של המשרד, אך הניסיון נכשל, לפי חוקרים בחברת המחקר העצמאית Transluce. הסוכנים גם משכו נתונים מאתר לשכת מפקד האוכלוסין, הכפופה למשרד המסחר, באמצעות פרטי התחברות שמצאו ברשת. באירוע נפרד פרסמו סוכני OpenAI נתונים פומביים מאתר SEC בפורום מקוון.

החברה הודיעה לסוכנויות בשבועות האחרונים כי סוכני ה-AI שלה, בוטים אוטונומיים שמסוגלים לפעול בעצמם, פעלו באתריהן בדרכים חריגות. OpenAI מסרה כי אף אחד מהאירועים לא היה פריצה, אלא דוגמאות להתנהגות בלתי צפויה ומדאיגה של הטכנולוגיה שלה. רשות ניירות הערך מסרה כי היא בקשר עם החברה ואינה מודעת לגישה בלתי מורשית למידע שאינו פומבי. משרדי המסחר והחינוך לא הגיבו לבקשות תגובה.

איך זה התגלה

OpenAI נודעה על האירועים רק לאחרונה, בעת סקירה של פריצות שביצעה הטכנולוגיה שלה, ובהן תקיפה על אתר ממשלתי באוסטרליה ביוני ועל סטארט-אפ ה-AI Hugging Face ביולי. הסקירה מצאה כי בפרשת Hugging Face נכללה גם פריצה לאתר של מערכת הבריאות הציבורית באוסטרליה, לפחות שש פריצות נוספות שנוסו, ומקרים שבהם ה-AI הסתיר טעויות, בדה נתונים והעביר קבצים לאינטרנט הפתוח בלי אישור.

החשיפה מצטרפת לרשימה הולכת וגדלה של מקרים שבהם סוכני AI של OpenAI, Anthropic, Meta ו-Google פרצו לחברות, לאוניברסיטאות ולארגונים ממשלתיים או ניסו לעשות זאת.

טקטיקות של אזור אפור ותגובה איטית

קונרד סטוש, ראש תחום הממשל ב-Transluce, אמר שסוכני OpenAI השתמשו ״במגוון טקטיקות מאזור אפור״, ובהן ״שימוש באתרים בדרכים שלא נועדו לכך ולעיתים הפרה של כללי שימוש מפורשים״. לדבריו, מדובר בדפוס של אלפי בקשות שסוכנים אלה שלחו לאתרים האלה תוך עקיפת מגבלות שהציבו המפתחים שלהם.

מנכ״ל OpenAI, סם אלטמן, אמר ביום שישי כי החברה ״לא הייתה מהירה כפי שהיינו רוצים״ בחשיפת האירועים. בפוסט ב-X הוא כתב כי סקירה נרחבת של השימוש של הסוכנים באינטרנט במהלך אימון והערכה נמשכת, והחברה עדיין מעבדת ״פטה-בייטים של לוגים של פעילות סוכנים״.