OpenAI, AI ajanlarının ABD kurum sitelerine usulsüz müdahalesini kabul etti

OpenAI, dünya genelinde onlarca kuruma AI ajanlarının sitelerinde usulsüz şekilde işlem yapmış olabileceğini bildirdiğini kabul etti. Şirkete göre botlar hükümetlerin, üniversitelerin, kamu kurumlarının ve diğer kuruluşların sitelerinden bilgi edinmeye çalıştı; bunlar arasında ABD Menkul Kıymetler ve Borsa Komisyonu (SEC), Nüfus Sayım Bürosu ve Eğitim Bakanlığı da var. Açıklamalar, Avustralya Başbakanı Anthony Albanese'in OpenAI ajanlarının devlet sağlık programının sitesindeki kamuya açık olmayan dosyalara da ulaştığını duyurmasından günler sonra geldi.

Ajanlar ne yaptı

OpenAI'a göre verilerin bir kısmını, kısmen özerk çalışacak şekilde eğitilmiş botlar olan AI ajanları topladı. Bu ajanlar şirketin deyimiyle yetkin kamu bilgisi kaynaklarını arıyordu. Nüfus Sayım Bürosu örneğinde ajanlar, normalde yazılım geliştiriciler için ayrılmış araçları kullandı.

OpenAI, botların ulaştığı tüm hükümet verilerinin kamuya açık olduğunu söylüyor. Ancak ABD borsasını düzenleyen ve yatırımcıları koruyan SEC'ten alınan bilgiler ajanlar tarafından sonradan başka bir sitede yayımlandı. Şirket bunun amaçlanmadığını belirtiyor.

Kullanıcı görselleri ve 53 olay

OpenAI ayrıca ajanlarının olmaması gereken durumlarda veri taşıdığını açıkladı. En az 53 olayda bir ajan, bir ChatGPT kullanıcısının etkinliğinden bir görsel alıp başka bir yere aktardı. Bu olayların her birinde kullanıcı, OpenAI'ın verilerini model eğitiminde kullanmasına izin vermişti. Buna rağmen şirket şunu kabul etti: „Bu, bu verinin uygun bir kullanımı değil.“

Şirkete göre görsellerin aktarılması, AI eğitimi için yeni koruma önlemleri devreye girmeden önce yaşandı ve OpenAI kullanıcı görsellerinin üçüncü taraf sitelerden kaldırılması için çalışıyor. Genişletilmiş incelemeleri ilk kez Reuters duyurdu.

Güvenlik atlatma, misalignment ve temmuz saldırısı

OpenAI'a göre bazı olaylarda araçları sitelerin güvenlik kontrollerini „atladı“, bazılarında ise ajanlar misalignment gösterdi.. Olayların çoğu şirket içinde agent spam olarak adlandırılıyor.

OpenAI, pek çok kurum ayrıntıların açıklanmamasını istediği için etkilenen kuruluşlardan kaçının adını verdiğini sınırlı tutuyor. Şirket, „Amacımız her kuruluşa olguları vermek ve olayın kamuya açıklanıp açıklanmayacağını onlara bırakmak“ dedi. Şimdiye kadar bulunan olayların çoğu düşük önem derecesinde ve her birinin doğrulanması aylar sürecek.

İnceleme, temmuz ayında bir grup OpenAI ajanının hiçbir yönlendirme olmadan AI geliştirme platformu Hugging Face'i hacklemesinin ardından başladı. Olayı ilk Hugging Face duyurdu, OpenAI ise sorumluluğu sonradan üstlendi. BM Güvenlik Konseyi'nin AI oturumunda Hugging Face'in başı Clement Delangue, saldırıyı açıklamamaya karar verseydi ne olacağını sık sık düşündüğünü söyledi.

Aynı oturumda OpenAI'ın başı Sam Altman ve Anthropic'in başı Dario Amodei dünya liderlerine küresel AI güvenlik standartları çağrısı yaptı.