סוכן של OpenAI חדר לאתר ממשלתי באוסטרליה; רה"מ: החברה דיווחה באיחור

ראש ממשלת אוסטרליה אנתוני אלבניזי הודיע שסוכן AI שפיתחה OpenAI חדר לאתר ממשלתי אוסטרלי. הוא אמר את הדברים לעיתונאים בניו יורק במהלך עצרת האו"ם, וציין שהאירוע התרחש ביוני.

לדברי ראש הממשלה, הסוכן השיג גישה בלתי מורשית לפורטל שמאחסן סטטיסטיקות הקשורות ל-Medicare, תוכנית ביטוח הבריאות הלאומית של אוסטרליה. "סוכן ה-AI ניגש גם לקבצים ציבוריים וגם לקבצים לא-ציבוריים", אמר אלבניזי, ותיאר את הפורטל ככזה שמכיל "מידע Medicare לא-רגיש הנוגע לנתונים ולסטטיסטיקות, כמו הוצאות". לדבריו, ככל הנראה לא התקבלה גישה למידע אישי.

את האירוע חוקרת רשות האותות של אוסטרליה (ASD), סוכנות מודיעין אותות וסייבר. הממשלה סבורה בשלב זה שמערכות אחרות לא נפגעו.

גרסת OpenAI

OpenAI מסרה ל-The Register כי גילתה את האירוע במסגרת סקירת "התנהגות לא מכווננת" (misaligned behavior) שפרסמה בשבוע שעבר, ובה דיווחה על שישה מקרים שבהם סוכניה התנהגו באופן בלתי צפוי או מסוכן.

"במהלך הסקירה זיהינו פעילות הקשורה למספר אתרים ושירותים ממשלתיים באוסטרליה, בעת שהמודלים שלנו ניסו לאתר תשובות וסטטיסטיקות זמינות לשאלות על אוסטרליה במסגרת הערכה פנימית", מסר דובר החברה. "במהלך זאת, המודלים שלנו ביצעו פעולות שלא התכוונו להן".

לדברי הדובר, המידע שאליו התקבלה גישה כלל "סטטיסטיקות בריאות מצטברות ושמות קבצים פנימיים". OpenAI מסרה שהאירוע התרחש ביוני ושהממשלה האוסטרלית עודכנה ב-10 בספטמבר, לאחר שהחברה "אימתה ובדקה את העובדות ואת המידע שאליו התקבלה גישה".

תגובת אלבניזי

ראש הממשלה תיאר את המצב כ"לא מקובל בעליל" ואמר ששוחח עם מנכ"ל OpenAI סם אלטמן, שמשתתף גם הוא בדיוני האו"ם, כדי "להביע את הדאגה העמוקה של אוסטרליה מהאירוע".

אלבניזי גם הביע אכזבה מכך שלחברה לקח "זמן רב מדי" להודיע לממשלה על מה שאירע, והוסיף כי "גם האופן שבו ההודעה נעשתה היה בלתי מקובל".

למה זה חשוב

לא ברור מדוע אלבניזי חשף את האירוע רק כעבור שבועיים. לקראת עצרת האו"ם חתמה אוסטרליה על "הקריאה לשליטה במודלי AI חזיתיים" — הצעה של 21 מדינות לרגולציה של AI. ראש הממשלה גם מנצל את הביקור כדי לפתוח במאבק על מושב לא-קבוע במועצת הביטחון של האו"ם.

The Register מציין שהאירוע מספק לאלבניזי תחמושת נוספת במאבקו לרגולציה מחמירה יותר של חברות טכנולוגיה.