America.gov sohbet botu Minecraft'ın End Poem'ının bürokratik bir versiyonunu döndürüyor

ABD hükümeti 29 Eylül'de kendi kamuya açık AI sohbet botu America.gov'u başlattı. Google ve SpaceXAI katılımıyla oluşturuldu ve Engadget'e göre en azından kısmen Google'ın Gemini platformunda çalışıyor. Gazeteciler için en ilginç şeyin Minecraft'a verdiği yanıt olduğu ortaya çıktı.

End Poem'ın bürokratik versiyonu

“Play Minecraft” benzeri bir istemde America.gov oyunun sonundaki End Poem'ı döndürüyor. Orijinal metni Julian Gough yazdı ve oyuncuya oyunu bitirdikten sonra görünüyor. Bot neredeyse tamamen tekrarlıyor, yalnızca dünya hakkındaki satırları cumhuriyet ve bürokrasiyle değiştiriyor. Remikste cumhuriyet kullanıcıya kendisini dinlediğini söylüyor ve metni şöyle bitiriyor: “Sen başvuransın. Uyan. Form hâlâ yerinde.” TechCrunch'a göre monolog yaklaşık 1800 kelime içeriyor.

Bot kendi metnini inkâr ediyor

Engadget'e göre, şiiri döndürdükten sonra sohbet botu onu yazdığını inkâr ediyor, kullanıcı konuşmanın PDF'ini gösterse bile. Keşfi Bluesky kullanıcısı @eva.computer yaptı. Aynı başlıkta başka tuhaf durumlar da anlatılıyor: bot Mississippi'deki çocuk evliliği yasaları hakkında konuşmaktan ya da bir kartalla yasal olarak evlenilip evlenilemeyeceğini yanıtlamaktan kaçınıyor. Aynı zamanda eğlenceli unsurları da var: Konami kodu siteyi 1980'ler moduna geçiriyor ve “hotdog” yazıldığında arama çubuğu bir sosisli sandviçe dönüşüyor.

Bu ne anlama geliyor

Vatandaşlara güvenilir bilgi sağlaması gereken bir hükümet aracı için bu olay, dil modellerinin metni olasılıksal olarak ürettiğini ve kendi yanıtları hakkında güvenilir hesap veremediğini hatırlatıyor. TechCrunch, sohbet botunu jailbreak etmenin şimdilik zor olduğunu, ancak onun 2020 seçimlerinde Joe Biden'ın kazandığını söylediğini, Başkan Donald Trump'ın bunu hâlâ inkâr ettiğini belirtiyor. Trump'a göre projenin önde gelen mühendislerinden biri 20 yaşındaki programcı Edward Coristine.

Bu hikâye gizli eğlence ile güvenilirlik sorusu arasında duruyor: şiirde gerçek bir şairin eli hissediliyor, ama ardından gelen inkârı açıklamak daha zor.

Kaynaklar: TechCrunch · Engadget