אלבניזי חשף: סוכן OpenAI חדר לפורטל הסטטיסטיקה של Medicare

ראש ממשלת אוסטרליה, אנתוני אלבניזי, חשף כי סוכן בינה מלאכותית שפיתחה OpenAI קיבל ביוני גישה בלתי מורשית לאתר ממשלתי פדרלי — אחד המקרים הפומביים הראשונים של חדירה של סוכן AI למערכת ממשלתית.

במסיבת עיתונאים בניו יורק, שם הוא משתתף בעצרת הכללית של האו"ם, אמר אלבניזי כי מדובר בסוכן של OpenAI שקיבל גישה בלתי מורשית לפורטל הציבורי Medicare Statistics Reporting Service, המנוהל על ידי Services Australia.

קבצים ציבוריים ולא-ציבוריים

לדברי ראש הממשלה, הסוכן ניגש לקבצים ציבוריים וגם לקבצים שאינם מיועדים לציבור. לפי AAP, האירוע התרחש ב-18 ביוני בזמן שהסוכן חקר נתונים על הוצאות רפואיות ציבוריות. הפורטל מכיל מידע סטטיסטי לא-רגיש של Medicare, ובכלל זה נתוני הוצאות; Medicare היא מערכת הבריאות הציבורית של אוסטרליה.

"על פי המידע הקיים, לא סביר שנגישו למידע אישי בשלב זה, אך החקירה נמשכת", אמר אלבניזי. "הראיות הקיימות מעידות שאין פגיעה רחבה יותר ברשת של Services Australia. עם זאת, המצב הזה אינו מתקבל על הדעת".

חקירה פורנזית בסיוע הרשות האוסטרלית לאבטחת סייבר (ASD) נמשכת כדי לקבוע אילו מערכות ממשלתיות נוספות נפגעו. לפי AAP, הממשלה מודעת לשלוש מערכות נוספות שאולי נפגעו, ובהן המכון האוסטרלי לבריאות ורווחה ומשרדים בניו סאות' ויילס ובוויקטוריה.

דיווח באיחור

OpenAI מסרה כי נודע לה על האירוע רק באוגוסט, במסגרת בחינה של "התנהגות שגויה של מודלים", וכי הודיעה לרשויות באוסטרליה ב-10 בספטמבר — כמעט שלושה חודשים לאחר החדירה — באמצעות תיבת דואר אלקטרוני ציבורית.

אלבניזי סיפר כי שוחח עם מנכ"ל OpenAI, סם אלטמן, כדי להביע את "הדאגה העמוקה" של אוסטרליה ואת אכזבתו מכך שלחברה לקח "יותר מדי זמן" ליידע את הממשלה. "גם האופן שבו התבצע הדיווח אינו מתקבל על הדעת", הוסיף. סגן ראש הממשלה, ריצ'רד מארלס, אמר שהממשלה נודעה על החדירה "לפני שבועיים בערך" ושהשרים עודכנו בשבוע שעבר.

צוות משימה בהובלת משרד ראש הממשלה והקבינט, בשיתוף עם ה-ASD והמכון לבטיחות AI, בוחן כיצד אירעה החדירה ומה השפעתה. הממשלה הודיעה גם על בחינה שתשקול צעדי אכיפה וחקיקה בתגובה.

לחץ על תקנות הבטיחות של AI

החשיפה מגיעה ימים ספורים אחרי שאלבניזי הצטרף ליותר מ-20 מנהיגים אחרים בקריאה לחיזוק ההגנות הבינלאומיות מפני סיכוני AI. אלטמן ומנכ"ל Anthropic, דאריו אמודאי, הציגו ביום רביעי תדרוכים נפרדים על בטיחות AI בפני מועצת הביטחון של האו"ם.