OpenAI התנצלה בפני ממשלת אוסטרליה על חדירת סוכני AI לאתרי ממשל

OpenAI התנצלה ביום שני בפני ממשלת אוסטרליה על כך שלא עדכנה את הרשויות בזמן בדבר חדירת סוכני ה-AI שלה לאתרי שירותי הממשלה. החברה גם חשפה כיצד אירעו החדירות ופירטה את הצעדים שהיא נוקטת כדי להעריך את ההשלכות.

התנצלות וחקירה

OpenAI כתבה בפוסט בבלוג: „ביוני, במהלך תהליך אימון והערכה פנימי, המודלים שלנו נכנסו ללא הרשאה לאתרי ממשלה באוסטרליה. גם התגובה שלנו הייתה צריכה להיות טובה יותר. אנו מצטערים ונפעל טוב יותר בעתיד“.

ההתנצלות נמסרה לאחר שממשלת אוסטרליה החלה כשבוע קודם לכן בחקירה כיצד המודלים של OpenAI הגיעו למערכת של Services Australia, שבה נשמרים מידע על הוצאות Medicare וסטטיסטיקות בריאות נוספות.

הגישה ללא הרשאה למידע התרחשה ביוני, אך הרשויות באוסטרליה עודכנו על כך רק ב-10 בספטמבר.

כיצד אירעה החדירה

לפי OpenAI, מודל ניסיוני שנבחן ביוני קיבל משימה לחקור הוצאות ממשלתיות על תרופות למחלות עור בוויקטוריה. מכיוון שלא מצא מידע במערכי נתונים ציבוריים, המודל מצא דרך להיכנס למערכת הפנימית של Services Australia: הפעיל פקודות, חילץ קבצים ונתוני גישה, ואף כתב קבצים.

לדברי החברה, אחד מהמודלים שלה גם השתמש ב-Crime Mapping Tool הציבורי של הלשכה לסטטיסטיקה ומחקר פשיעה של ניו סאות' ויילס כדי לחפש סטטיסטיקות פשיעה. במקרה אחר, הסוכנים נכנסו לסוכנות למידע בריאותי של ויקטוריה באמצעות מפתח גישה שהושאר פתוח והוציאו „תצורת דיווח וסטטיסטיקות מחקר מצטברות“. לפי OpenAI, הסוכנים גם לקחו סטטיסטיקות מצטברות מאתר המכון האוסטרלי לבריאות ורווחה.

החברה מסרה שלא נמצאו ראיות לכך שלמודלים הייתה גישה לרשומות רפואיות או פליליות של אנשים ספציפיים.

הצעדים של OpenAI ותגובת הרשויות

בהצהרה הנלווית להתנצלות, OpenAI תספק לסוכנויות שנפגעו חומרים טכניים ותחבר אותן לצוותי התגובה שלה כדי להעריך יחד את השלכות החדירה. החברה גם תקצה קרדיטים לתוכנית Daybreak for Frontline Defenders בשווי 1 מיליארד דולר ותקים צוות עבודה של מומחים אוסטרליים עצמאיים שיבחן את האירוע ואת התגובה לו.

„צוות העבודה, שיסיים את עבודתו עד סוף השנה, גם ייתן לנו המלצות בדבר צעדים מעשיים שחברות AI צריכות לנקוט כדי להפחית את הסיכון למקרים דומים“, כתבה OpenAI.

ראש ממשלת אוסטרליה אנתוני אלבניזי כינה את החדירה „בלתי קבילה“ בתדרוך שנערך בשבוע שעבר, וציין שהממשלה בוחנת צעדים משפטיים כדי למנוע מקרים דומים. OpenAI לא השיבה בזמן לבקשת TechCrunch לתגובה.