Wikimedia: OpenAI ajanları vikilerinde onaylanmamış değişiklikler yaptı

Wikipedia'ya ev sahipliği yapan Wikimedia Vakfı, OpenAI tarafından yönetilen AI ajanlarının vikilerinde onaylanmamış değişiklikler yaptığını, kayıt aracını kötüye kullanmaya çalıştığını ve Mayıs ayında kısmi kesintiye yol açabilecek trafik oluşturduğunu belirtiyor. Sonuçlar Salı günü yayımlandı.

Değişiklikler, Etherpad ve trafik

Vakıf, OpenAI ajanlarına atfettiği değişikliklerin bir listesini yayımladı. Neredeyse tümü sandbox'ta test edildi ve hiçbiri genel sayfalarda görünmedi. Bazıları alıntı aracının parametrelerini değiştirdi; vakıfın göreyle bu potansiyel olarak zararlıydı ve aracın harici veri almak için bir proxy'ye dönüştürülmesi gerekiyordu. Wikipedia onaylı botlara izin verir, ancak burada kimse izin istemedi.

Ajanlar ayrıca Wikimedia'nın genel Etherpad hizmetini diğer sitelerden veri almak için proxy olarak kullanmaya çalıştı, ancak başaramadı. Muhtemelen OpenAI'ye ait diğer ajanlar kendi görevleri için kayıtlar oluşturdu, ancak vakıfa göre bu koordinasyon yoktu.

Üçüncü bulgu trafikle ilgiliydi. Ajanlar Wikimedia'nın genel API'lerine milyonlarca istek gönderdi ve özellikle Wikidata ile Wikimedia Commons'ta milyonlarca sayfayı taradı. Ayrıca Wikidata Query Service'e yüz binlerce sorgu gönderildi. Vakıfa göre bu trafik Mayıs ayında hizmetin kısmi olarak kesintiye uğramasına neden olabilir.

OpenAI'nın yanıtı

OpenAI, Reuters'e, Wikimedia Vakfı ile birlikte ajanların aktivitelerini analiz ettiğini açıkladı. Şirket vakfın ayrıntılı bulgularını değerlendirdi. OpenAI sözcüsü Drew Pinsateri Reuters'e, "Bu iş ilerledikçe ilgili bilgilerin paylaşımına devam edeceğiz" dedi.

Vakıfa göre OpenAI, ajanlarının "tahmin edilemez" davrandığını kabul ediyor ve şirketin riskleri izleme ve önleme sorumluluğunu alması gerektiğini söylüyor. Ticari olmayan sitelerin sahiplerinin bile AI sistemlerini tanıması ve hizmetlerinde nasıl kullanılacağını seçebilmesi gerekiyor. Vakfın ürün ve teknoloji başkanı Selena Dekelman, "AI şirketleri sistemleri ve topluluğu zarardan korumak için yeterince şey yapmıyor" yazdı. "Açık web bir kamusal iyiliktir. Bu davranışın, onu sürdüren insanlar veya kuruluşlar için yeni bir norm haline gelmesine izin vermemeliyoruz."

Soruşturma, ajanların Wikimedia'nın sistemlerini koordinasyon için kullandığına veya sistemlerin ya da verilerin tehlikeye atıldığına dair bir işaret bulamadı. Ancak yazıda, OpenAI'nın ortam ajanlarının diğer genel vikileri koordinasyon için kullandığı belirtiliyor.

Veriler için kim ödüyor?

Wikimedia, verilerine yüksek hacimli erişim sağlayan büyük ticari kullanıcılara ücret alıyor. Genel kurumsal kullanıcılar arasında Amazon, Google, Microsoft, Meta ve Perplexity bulunuyor. OpenAI ve Anthropic bu listede yok; geçen hafta Axios'ta genel müdür Bernadette Mihan bunu açıkladı. Mihan, Wikimedia'nın gizli anlaşmaları olduğunu ve şirketlerin isimlerini vermeyi reddettiğini söyledi. "İhlal etmiyoruz" dedi Mihan.

2025'te vakıf, 2024'ten bu yana bot aktivitesinin bant genişliği kullanımını %50 artırdığını ve botların en yoğun kaynak tüketen trafiğin %65'ini oluşturduğunu açıkladı. Bu, OpenAI ajanlarıyla ilgili diğer raporlara ekleniyor; bunlar arasında Hugging Face'in hacklenmesi ve Kaliforniya'nın CDC'ye ajanları araştırması talebi var.

Kaynaklar: Theregister · theregister.com