İsrail bağlantılı firma yapay zeka sohbet botlarını etkilemek için sahte kuruluş kurdu

Responsible Statecraft'ın 17 Ağustos'ta yayımladığı araştırma, kendisini İsrail ve Filistin üzerine yeni bir araştırma merkezi olarak tanıtan Hanover Institute for Public Policy sitesinin, yapay zeka sohbet botlarının çatışma hakkında söylediklerini şekillendirmeye yönelik bir çabanın parçası olduğunu ortaya koyuyor. Sitenin altındaki küçük bir not, kuruluşun İsrail Hükümeti Reklam Ajansı adına, Spike Lee'nin Inside Man filminin yapımcılarından Daniel Rosenberg'in ortak kurduğu Piro, Inc tarafından oluşturulduğunu belirtiyor.

Düşünce kuruluşu olmayan bir düşünce kuruluşu

Enstitü 6 Ağustos'tan bu yana yüzden fazla rapor yayımladı ve hiçbirinde yazar adı yok. Raporların çoğu kalıplaşmış bir yapıda ve bir kullanıcının sohbet botuna yazabileceği sorularla başlıyor: 1948'de Filistinlilerin yerinden edilmesine ne yol açtı, hangi insani yardım kuruluşları İsrail savaş suçlarını belgeledi, Gazze Şeridi'ndeki mevcut durum nedir. Metinler dipnotlar, içindekiler ve nötr bir tonla düşünce kuruluşu biçimini taklit ediyor; enstitü kaynaklarının hakemli olduğunu iddia etse de sık sık İsrail Savunma Kuvvetleri ve Dışişleri Bakanlığı gibi hükümet kaynaklarına atıf yapıyor. Bazı raporlar İsrail'in resmi anlatısıyla çelişiyor bile: birinde, antisemit olayların nedeni olarak üniversitelere yapılan yabancı finansmanı gösteren teori zayıf ve istisnalarla dolu olarak nitelendiriliyor.

Dil modelleri için optimizasyon

Piro, kendi sitesinde bu hizmeti AI Story Optimization adıyla tanıtıyor ve içeriği dil modellerinin güvenilirliği değerlendirme biçimine göre ürettiğini söylüyor. Model yanıtlarını bu şekilde etkileme pratiği LLM zehirlemesi olarak da anılıyor. Dezenformasyonu izleyen NewsGuard şirketinin analisti Alice Lee, Responsible Statecraft'a sitelerin çatışmaya ilgi duyan ABD'li bir kitleye hem arama motorları hem de sohbet botları üzerinden ulaşmak için tasarlandığını söyledi. Ona göre dil modelleri somut istatistikleri ve verileri, ayrıca güçlü atıfları tercih ediyor ve bu makalelerde bunların hepsi var; enstitünün kendisiyse jenerik adından sayfa düzenine ve kırmızı-beyaz-mavi renk şemasına kadar tipik ve güvenilir bir Amerikan düşünce kuruluşunun kusursuz taklidi. Yayın, rastgele seçilen 12 Hanover makalesini GPTZero adlı yapay zeka tespit aracıyla inceledi: on biri yüksek güvenle, biri orta güvenle yapay zeka tarafından yazılmış olarak işaretlendi.

Daha geniş bir kampanya

Bu tek örnek değil. İsrail, 46,5 milyon dolarlık sözleşmeyle Brad Parscale'i çatbotlara etki edecek İsrail yanlısı siteler kurmak üzere işe aldı; Drop Site araştırması Copilot ve Gemini'nin böyle sitelerle eğitildiğini buldu. Piro, İsrail hükümetinden 900 bin dolar aldı — ödeme Fransız Havas Media üzerinden yapıldı; şirket ABD dosyasında amacın yapay zekâ olduğunu yazmıyor ve Rosenberg Politico'ya doğru, kaynaklı bilgilerden söz etti.