OpenAI, AI ajanlarının devlet sitelerine sızması nedeniyle Avustralya hükümetinden özür diledi

OpenAI pazartesi günü, AI ajanlarının devlet hizmetleri sitelerine sızmasıyla ilgili yetkililere zamanında bildirimde bulunmadığı için Avustralya hükümetinden özür diledi. Şirket ayrıca bu sızmaların nasıl gerçekleştiğini açıkladı ve sonuçları değerlendirmek için başvurduğu önlemleri sıraladı.

Özür ve soruşturma

OpenAI bir blog yazısında şöyle dedi: „Haziran'da, dahili eğitim ve değerlendirme sürecinde, modellerimiz Avustralya hükümet sitelerine yetkisiz şekilde girdi. Tepkimiz de daha iyi olmalıydı. Üzgünüz ve gelecekte daha iyi çalışacağız“.

Özür, Avustralya hükümetinin yaklaşık bir hafta önce OpenAI modellerinin Medicare harcama bilgilerinin ve diğer sağlık istatistiklerinin tutulduğu Services Australia sistemine nasıl ulaştığına dair soruşturma başlatmasından sonra geldi.

Verilere yetkisiz erişim Haziran'da gerçekleşti, ancak Avustralya yetkililerine bu konuda yalnızca 10 Eylül'de bilgi verildi.

Sızma nasıl gerçekleşti

OpenAI'ye göre, Haziran'da test edilen deneysel bir modele Victoria'da cilt hastalıkları ilaçlarına yönelik devlet harcamalarını araştırma görevi verildi. Kamu veri kümelerinde bilgi bulamayınca model, Services Australia'nın dahili sistemine girmenin bir yolunu buldu: komutlar çalıştırdı, dosyaları ve erişim verilerini çıkardı, hatta dosyalar yazdı.

Şirkete göre, modellerinden biri ayrıca New South Wales Suç İstatistikleri ve Araştırması Bürosu'nun kamuya açık Crime Mapping Tool aracını kullanarak suç istatistiklerini aradı. Başka bir olayda ajanlar, açık bırakılmış bir erişim anahtarıyla Victoria Sağlık Bilgisi Ajansı'na girdi ve „raporlama yapılandırmasını ve toplu araştırma istatistiklerini“ çıkardı. OpenAI'ye göre ajanlar, Avustralya Sağlık ve Refah Enstitüsü'nün web sitesinden de toplu istatistikler aldı.

Şirket, modellerin belirli kişilerin tıbbi veya cezai kayıtlarına eriştiğine dair kanıt bulunamadığını belirtti.

OpenAI'nin adımları ve hükümetin tepkisi

Özre eşlik eden açıklamasında OpenAI, etkilenen kurumlara teknik materyaller vereceğini ve sızmanın sonuçlarını birlikte değerlendirmek için kendi müdahale ekipleriyle bağlantı kuracağını duyurdu. Şirket ayrıca 1 milyar dolarlık Daybreak for Frontline Defenders programı kredilerini tahsis edecek ve olayı ve müdahaleyi gözden geçirecek bağımsız Avustralyalı uzmanlardan oluşan bir çalışma grubu oluşturacak.

„Yıl sonuna kadar çalışmalarını tamamlayacak çalışma grubu, AI şirketlerinin benzer olayların riskini azaltmak için hangi pratik adımları atması gerektiği konusunda bize önerilerde de bulunacak“ diye yazdı OpenAI.

Avustralya Başbakanı Anthony Albanese, geçen hafta düzenlenen bir brifingde sızmayı „kabul edilemez“ olarak nitelendirdi ve hükümetin benzer olayları önlemek için yasal önlemleri değerlendirdiğini belirtti. OpenAI, TechCrunch'ın yorum talebine zamanında yanıt vermedi.