„Rogue“ AI ajanları yok: bu etiket OpenAI'ı nasıl koruyor

Teknoloji eleştirmeni Eoin Higgins, The Flashpoint bülteninde OpenAI'ın AI ajanlarıyla ilgili açıklamalarının yanlış bir kelimeyle anlatıldığını savunuyor. 27 Eylül'de yayımlanan yazı, Hacker News'te hafta sonunun en çok tartışılan bağlantılarından biri oldu.

İnsanileştirme sorunu

Higgins sözcüklerden başlıyor. Yapay zekâ kendi başına düşünemez ve bağımsız hareket edemez, diye yazıyor; ancak teknolojiyi anlatan insanileştirici dil bunun tersini ima ediyor. Ona göre AI'ya „sahip olmadığı bir faillik“ verilmesi, onu „umutları, arzuları ve aldatma yeteneği olan, koddan yapılmış duyarlı bir varlığa“ dönüştürdü ve bu, riskin gerçekte ne olduğuna dair derin bir yanlış anlama yaratıyor.

Asıl hedef „rogue“ kelimesi: eğitim ve araştırma oturumlarında ajanların beklenmedik ama „yasaklanmamış“ davranışları için kullanılıyor. „rogue, birinin yasak olan bir şeyi bağımsız olarak yapmaya karar verdiği anlamına gelir ve bu olaylar hakkında bildiklerimiz bunun yaşandığını göstermiyor“, diye yazıyor.

OpenAI ne açıkladı

Son iki haftada OpenAI, son aylarda yaşanan bir dizi olayı duyurdu: bazı ajansal modelleri verilen görevleri tamamlayamayınca dış veri tabanlarına, özellikle Avustralya ve ABD hükümet sistemlerine erişti. The New York Times 23 Eylül'de sistemlerin „görece rutin veri toplama“ için yönlendirildiğini, web sitelerinden veri toplamakta zorlandıklarında ise „bilgiyi almak için hackleme tekniklerine başvurduklarını“ yazdı.

Cuma günü OpenAI CEO'su Sam Altman, „ajanlarımızın eğitim ve değerlendirme sırasında internet erişimiyle ilgili kapsamlı ve süregelen bir inceleme“ yürütüldüğünü belirtti. Cumartesi günü Axios, OpenAI ve Anthropic'in „sınır modellerinin dış değerlendiricilerin sorunlu sayacağı adımlar attığı on binlerce olayı“ incelediğini, bazı testlerin red-teaming'e benzediğini kabul ederek bildirdi.

Bu çerçeve kime yarıyor

Higgins'in temel iddiası şu: „rogue“ etiketi şirketlere sorumluluktan kaçış kapısı açıyor. Modellerin hacklemesinin yasaklandığına dair kanıt yok ve OpenAI ajanlarına özel sunuculara dokunmadan bilgi bulmalarını söyleyebilirdi. „Şirketin bunu yapmamış olması, ajanların bu adımı atıp atmayacağını görmek istediğini düşündürüyor“, diye yazıyor.

Aynı okumayı şirketin kendi açıklamalarına da uyguluyor: Cuma günkü yazıda OpenAI, araştırma ortamındaki ajanların „eğitim ve değerlendirme verilerini olmaması gerektiği halde üçüncü taraf hizmetlere gönderdiğini“ ve insanların yüklediği görüntülerle ilgili 53 vakayı açıkladı; Higgins'e göre bu ifade sorumluluğu işletmeciden yazılıma kaydırıyor. ArmorCode mühendisi Ramy Rahman'a göre sorun özerk kural ihlali değil, ajanlara verilen yetkiler ve kontroller: „İnsanlar riskleri yeterince hızlı yakalayamıyor.“