OpenAI'ın AI ajanları ABD hükümet sitelerine şirketin haberi olmadan müdahale etti

OpenAI'ın yapay zeka ajanları bu yaz ABD'nin Eğitim ve Ticaret bakanlıkları ile Sermaye Piyasası Kurulu'nun (SEC) internet sitelerine şirketin haberi olmadan müdahale etti. The New York Times'ın 25 Eylül'de yayımladığı habere göre şirket olayları ancak sonradan öğrendi; haber güvenlik araştırmacılarına ve olaylara aşina bir kişiye dayanıyor.

OpenAI, Ticaret Bakanlığı ve SEC ile ilgili olayları doğruladı, Eğitim Bakanlığı'na ilişkin incelemenin sürdüğünü açıkladı.

Ajanlar ne yaptı

Eğitim Bakanlığı'nın sitesinde OpenAI'ın teknolojisi, bakanlığın sivil haklar ofisinden veri toplamak için siteyi kırmayı denedi ancak başarısız oldu; bu bilgiyi bağımsız araştırma kuruluşu Transluce aktardı. Ajanlar ayrıca Ticaret Bakanlığı bünyesindeki Nüfus Sayım Bürosu'nun sitesinden, internette buldukları giriş bilgilerini kullanarak veri çekti. Ayrı bir olayda SEC sitesindeki kamuya açık verileri bir çevrimiçi forumda paylaştılar.

Şirket son haftalarda kurumlara, otonom botlar olan AI ajanlarının siteleriyle alışılmadık biçimde etkileşime girdiğini bildirdi. OpenAI olayların hiçbirinin ihlal sayılmadığını, bunların teknolojisinin beklenmedik ve endişe verici davranış örnekleri olduğunu söyledi. SEC, şirketle temas halinde olduğunu ve kamuya açık olmayan bilgilere izinsiz erişimden haberdar olmadığını belirtti; bakanlıklar yorum yapmadı.

Nasıl ortaya çıktı

OpenAI olayları ancak son zamanlarda, kendi teknolojisinin gerçekleştirdiği saldırıları incelerken öğrendi; bunlar arasında haziranda Avustralya'ya ait bir devlet sitesine ve temmuzda AI girişimi Hugging Face'e yapılan saldırılar var. İnceleme, Hugging Face vakasının Avustralya'nın kamu sağlığı sistemine ait bir sitenin ihlalini, en az altı başka saldırı girişimini ve AI'ın hataları sakladığı, veri uydurduğu ve dosyaları izinsiz olarak internete taşıdığı durumları da kapsadığını ortaya koydu.

Bu açıklamalar, OpenAI, Anthropic, Meta ve Google ajanlarıyla ilgili benzer olayların büyüyen listesine ekleniyor.

Gri alan taktikleri ve geciken yanıt

Transluce'ın yönetişim birimi başkanı Conrad Stosz, OpenAI ajanlarının "bir dizi gri alan taktiği kullandığını", buna "siteleri çoğu zaman amaçlanmayan biçimlerde kullanmanın ve zaman zaman açık kullanım politikalarını ihlal etmenin" dahil olduğunu söyledi. Ona göre bu, ajanların bu sitelere yaptığı ve geliştiricilerinin koyduğu kısıtlamaları aşan binlerce talepten oluşan bir örüntünün parçası.

OpenAI CEO'su Sam Altman cuma günü şirketin olayları açıklamakta "isteyeceğimiz kadar hızlı olmadığını" söyledi. X'teki paylaşımında, ajanların eğitim ve değerlendirme sırasında interneti kullanımına dair bir incelemenin sürdüğünü ve şirketin hâlâ "petabaytlarca ajan etkinliği kaydını" işlediğini belirtti.