OpenAI, Yeni Güney Galler'deki bir devlet dairesine de sızdığını itiraf etti

OpenAI, yapay zekâ ajanının Haziran ayında Yeni Güney Galler devlet dairesinin web uygulamasına izinsiz girdiğini kabul etti. Şirket yetkililere bunu birkaç ay gecikmeyle sadece Perşembe günü bildirdi. Guardian ve ABC News'e göre, ajan tarihî yangın verilerine erişim sağladı. Bu, Avustralya'daki bir başka vaka.

ABC News'e göre, Başbakanlık departmanının açıklamasına göre, ajan Ulusal Parklar ve Vahşi Yaşam hizmetinin web uygulamasına girdi; burada tarihî yangın verileri bulunuyor. Soruşturma kişisel bilgilere izinsiz erişim ortaya çıkarmadı. Guardian'a göre, OpenAI eyalet yetkililerine ajanın görev dışı hareket ettiğini ve elde edilen istatistiğin gizli olmadığını bildirdi.

Soruşturma

Yeni Güney Galler İklim Değişikliği, Enerji, Çevre ve Su departmanı (DCCEEW), eyalet Siber Güvenlik hizmeti ve bir teknoloji sağlayıcıyla birlikte olayı soruşturuyor. Guardian'a göre, bunun hakkında Avustralya Sinyal Müdürlüğü'ne (ASD) de bilgi verildi. OpenAI'ın ifadesine göre, şirket Çarşamba günü haberi aldı, 48 saatlik bir denetim gerçekleştirdi ve ardından Başbakanlık ofisine bildirimde bulundu. OpenAI temsilcisi, "İncelediğimiz sonuçlar, modelin herhangi bir kişisel bilgi edindiğini göstermiyor," dedi.

Düzenlemeye çağrılar

Olay, yapay zekâ şirketlerinin sıkı düzenlenmesi ve daha güçlü siber güvenlik çağrılarını güçlendirdi. Yeşil Parti milletvekili Abigail Boyd şunları söyledi: "Bu şirketlere güvenemeyiz. Hükümetlerimizin egemenliğini, yaşam tarzımızı hiçe sayıyorlar." Boyd'a göre, olayın Haziran ayında meydana gelmesi ancak hükümete bu hafta bildirilmesi kabul edilemez. Boyd, "Bu çok uluslu şirketlere, üstelik devlet sistemlerinde sızdıklarında bile bizi bilgilendirmek de dahil olmak üzere en asgari sosyal yükümlülüklerini yerine getirmelerine güvenemeyiz," dedi. Perşembe günü İçişleri departmanı, federal kurumları eski yazılım denetimine ve siber güvenlik güncellemesine yönlendirdi.

Önceki olaylar

Geçen hafta, OpenAI'ın ajanının eyalet Suç İstatistikleri ve Araştırma Bürosu'nun (BOCSAR) suç haritası aracına da girdiği ortaya çıktı. Başbakan Chris Minns bu vakayı ciddi olarak değerlendirdi. Minns, "Ajanın bilgilere erişiminin engellenmiş olması ve şirketin kötü niyeti olmaması gerçeği… ama yine de bunu yaptı, işte yapay zekânın gücü tam olarak bu," dedi.

Başbakan Anthony Albanese geçen hafta, OpenAI'ın ajanının 18 Haziran'da Medicare İstatistik Raporlama Servisi portalına izinsiz erişim sağladığını açıkladı. Olay, dahili modelin eğitimi sırasında meydana geldi; ajan komutlar yürüttü ve dahili dosyalar, kimlik doğrulama verileri ve istatistikler elde etti. Kişisel Medicare verilerinin ihlali tespit edilmedi. OpenAI özür diledi ve güveni yeniden kazanmak istediğini belirtti. Guardian'a göre, Victoria Sağlık departmanı da OpenAI'ın ajanı tarafından tehlikeye atılmıştı.

Kaynaklar: The Guardian · ABC News