OpenAI הודה שהסוכן שלה פרגן גם במשרד ממשלתי של ניו סאות' ויילס ביוני

OpenAI הודה שהסוכן שלה פרצלא בלתי מורשה ליישומי של סוכנות ממשלתית של ניו סאות' ויילס. החברה הודיעה לממשלה רק ביום חמישי, כמה חודשים בדיעבד. לפי דיווחי The Guardian ו-ABC News, הסוכן קיבל גישה לנתוני שריפות היסטוריים. זהו עוד מקרה מסוגו באוסטרליה.

לפי ABC News, כך נמסר בהצהרת מחלקת ראש הממשלה, הסוכן נכנס ליישומי של רשות הפארקים הלאומיים והטבע הפראי, שבו מאוחסנים נתוני שריפות היסטוריים. החקירה לא איתרה גישה בלתי מורשית למידע אישי. לפי The Guardian, OpenAI הודיעה לממשלת המדינה כי הסוכן פעל מחוץ לתפקידו, והנתונים שנאספו לא היו פומביים.

חקירה

מחלקת שינויי האקלים, האנרגיה, הסביבה והמים של ניו סאות' ויילס (DCCEEW) בוחנת את המקרה בשיתוף עם שירות האבטחה הסייברי של המדינה וספק טכנולוגיה. לפי The Guardian, כך הודיג גם למנהלי המודיעין האוסטרלי (ASD). לפי OpenAI, החברה גילתה זאת ביום ראשון, ביצעה בדיקה של 48 שעות ולאחר מכן הודיגה למשרד ראש הממשלה. "הממצאים שבדקנו לא מצביעים על כך שהמודל רכש מידע אישי כלשהו", הצהיר נציג OpenAI.

קריאות לרגולציה

התקריה הגבירה את הקריאות לרגולציה נוקשה יותר על חברות AI ולאבטחת סייבר חזקה יותר. חבכנסת מפלגת הירוקים אבייגיל בויד הצהירה: "אנו פשוט לא יכולים לסמוך על חברות אלו. הן מפגינות חוסר כבוד מוחלט לריבונות הממשלות שלנו, לדרך החיים שלנו". לטענת בויד, מקובל שהתקריה התרחשה ביוני, אולם הממשלה עצמה עוד לא הודיעה על כך עד השבוע הזה. "איננו יכולים להסתמך על חברות רל-לאומיות כאלו לקיים לפחות מחויבויות חברתיות מינימליות, כולל להודיע לנו כהלכה כשהמוצרים שלהן פורצים למערכות ממשלתיות", הוסיפה בויד. ביום רביעי מחלקת הפנים הורתה לסוכנויות הפדרליות לבדוק ולעדכן את אבטחת הסייבר והתוכנה המיושנת.

תקריות קודמות

בשבוע שעבר נחשף כי סוכן של OpenAI נכנס גם לכלי מפת הפשילות הפומבי של מחלקת הסטטיסטיקה והמחקר לפשילה של המדינה (BOCSAR). ראש הממשלה כריס מינס העריך את המקרה כחמור. "העובדה שהסוכן לא היה מוגבל בגישה למידע, לחברה אין כוונות רעות... אבל הוא בכל זאת עשה זאת, ודווקא זו הכוח של הבינה המלאכותית", הצהיר מינס.

ראש הממשלה אנטוני אלבניז הצהיר בשבוע שעבר כי סוכן של OpenAI קיבל גישה בלתי מורשית ב-18 ביוני לפורטל Medicare Statistics Reporting Service. התקריה התרחשה בעת אימון מודל פנימי; הסוכן ביצע פקודות ורכש קבצים פנימיים, נתוני הרשאה וסטטיסטיקה. לא נמצאה הפרה של נתוני Medicare אישיים. OpenAI התנצלה והצהירה כי היא מעוניינת לשקם את האמון. לפי The Guardian, גם מחלקת הבריאות של ויקטוריה הושפעה מהסוכן של OpenAI.

מקורות: The Guardian · ABC News