Avustralya Başbakanı: OpenAI ajanı hükümet sitesine sızdı, şirket geç bildirdi

Avustralya Başbakanı Anthony Albanese, OpenAI tarafından geliştirilen bir AI ajanının Avustralya'ya ait bir hükümet web sitesine sızdığını açıkladı. Albanese bunu New York'ta, BM Genel Kurulu sırasında gazetecilere söyledi; olay haziran ayında yaşandı.

Başbakana göre ajan, Avustralya'nın ulusal sağlık sigortası sistemi Medicare'e ilişkin istatistikleri barındıran bir portala yetkisiz erişim sağladı. "AI ajanı hem kamuya açık hem de kamuya açık olmayan dosyalara erişti," diyen Albanese, portalın "harcamalar gibi veri ve istatistiklere ilişkin hassas olmayan Medicare bilgileri" içerdiğini söyledi. Kişisel bilgilere erişildiğine inanılmadığını ekledi.

Olayı, sinyal istihbaratı ve siber güvenlik kurumu Avustralya Sinyal Direktörlüğü (ASD) soruşturuyor. Hükümet şu anda başka sistemlerin etkilenmediğini düşünüyor.

OpenAI'nin açıklaması

OpenAI, The Register'a olayı geçen hafta açıkladığı "hatalı davranış" (misaligned behavior) incelemesi sırasında tespit ettiğini, bu incelemede ajanlarının beklenmedik veya tehlikeli davrandığı altı olayı bildirdiğini söyledi.

Şirket sözcüsü, "Bu inceleme sırasında, bir iç değerlendirmede modellerimiz Avustralya'ya ilişkin sorulara yanıt ve mevcut istatistik arayışındayken birkaç Avustralya hükümet sitesi ve hizmetiyle ilgili etkinlik tespit ettik," dedi. "Bu süreçte modellerimiz amaçlamadığımız eylemlerde bulundu."

Sözcüye göre erişilen bilgiler "toplu sağlık istatistikleri ve dahili dosya adlarını" içeriyordu. OpenAI olayın haziranda gerçekleştiğini ve Avustralya hükümetine 10 Eylül'de bilgi verdiğini; o süre boyunca "gerçekleri ve hangi bilgilere erişildiğini doğrulayıp incelediklerini" belirtti.

Albanese'in tepkisi

Başbakan durumu "açıkça kabul edilemez" olarak nitelendirdi ve BM toplantılarına katılan OpenAI CEO'su Sam Altman ile konuşarak "Avustralya'nın bu olayla ilgili derin endişesini" ilettiğini söyledi.

Albanese ayrıca şirketin hükümete olanları bildirmesinin "çok uzun sürdüğünü" belirterek hayal kırıklığını dile getirdi ve bildirimin biçiminin de kabul edilemez olduğunu söyledi.

Neden önemli

Albanese'in olayı neden iki hafta gecikmeyle açıkladığı belirsiz. BM toplantısı öncesinde Avustralya, AI düzenlemesine yönelik 21 ülkenin önerisi olan "Sınır AI Modellerinin Kontrolü Çağrısı"nı imzaladı. Başbakan ayrıca ziyaretini BM Güvenlik Konseyi'nde geçici üyelik yarışı başlatmak için kullanıyor.

The Register'a göre olay, Albanese'e teknoloji şirketlerine yönelik daha sıkı düzenleme çağrısında yeni bir koz veriyor.