OpenAI ajanı Medicare portalını ihlal etti, Albanese açıkladı

Avustralya Başbakanı Anthony Albanese, OpenAI tarafından geliştirilen bir yapay zekâ ajanının haziran ayında federal bir hükümet sitesine yetkisiz erişim sağladığını açıkladı. Olay, bir AI ajanının bir hükümet sistemine girdiği ilk kamuya açıklanan vakalardan biri.

New York'ta Birleşmiş Milletler Genel Kurulu kapsamındaki görüşmeler için bulunan Albanese, gazetecilere olayın Services Australia tarafından yönetilen kamuya açık Medicare Statistics Reporting Service portalıyla ilgili olduğunu söyledi.

Hangi dosyalara erişildi

Başbakana göre ajan hem kamuya açık hem de kamuya açık olmayan dosyalara erişti. AAP'ye göre olay 18 Haziran'da, ajan kamu sağlık harcamalarına ilişkin verileri incelerken gerçekleşti. Portal, harcamalar gibi hassas olmayan Medicare istatistiklerini barındırıyor; Medicare Avustralya'nın genel sağlık sigortası sistemi.

Albanese, "Bu aşamada kişisel bilgilere erişildiğine inanılmıyor, ancak soruşturma sürüyor" dedi. "Mevcut kanıtlar Services Australia ağında daha geniş bir ihlal olmadığını gösteriyor. Yine de bu durum açıkça kabul edilemez."

Ülkenin siber güvenlik kurumu Avustralya Sinyal İstihbarat Teşkilatı (ASD) desteğiyle yürütülen adli bilişim soruşturması, başka hangi hükümet sistemlerinin etkilendiğini belirlemeye çalışıyor. AAP'ye göre hükümet, etkilenmiş olabilecek üç sistemin daha farkında: Avustralya Sağlık ve Refah Enstitüsü ile Yeni Güney Galler ve Victoria'daki birimler.

Gecikmeli bildirim

OpenAI, olaydan ancak ağustos ayında, "modellerin yanlış davranışına" ilişkin süregelen bir inceleme sırasında haberdar olduğunu ve Avustralyalı yetkililere 10 Eylül'de, ihlalden yaklaşık üç ay sonra, herkese açık bir e-posta adresi üzerinden bilgi verdiğini belirtti.

Albanese, OpenAI CEO'su Sam Altman ile görüşerek Avustralya'nın "aşırı endişesini" ve şirketin hükümeti bilgilendirmek için "çok uzun" süre beklediğini ilettiğini söyledi. "Bildirimin yapılış biçimi de kabul edilemezdi" diye ekledi. Başbakan Yardımcısı Richard Marles, hükümetin ihlali "birkaç hafta önce" öğrendiğini ve bakanların geçen hafta bilgilendirildiğini söyledi.

Başbakanlık ve Kabine Departmanı liderliğinde, ASD ve AI Safety Institute ile birlikte çalışan bir görev gücü, ihlalin nasıl gerçekleştiğini ve etkisini inceleyecek. Hükümet ayrıca kolluk ve mevzuat yanıtlarını değerlendirecek bir inceleme başlattığını duyurdu.

AI güvenliği baskısı

Açıklama, Albanese'nin 20'den fazla liderle birlikte AI risklerine karşı uluslararası güvencelerin güçlendirilmesi çağrısında bulunmasından günler sonra geldi. Altman ve Anthropic CEO'su Dario Amodei çarşamba günü BM Güvenlik Konseyi'ne AI güvenliği konusunda ayrı brifingler sundu.