ABD ordusu yapay zekâyla hazırlanan sahte istihbarat raporuyla savaşın eşiğine geldi

ABD kuvvetleri bu bahar, İran'la süren savaşın ortasında, yapay zekâ desteğiyle hazırlanan ve kaynaklara göre sahte olan bir istihbarat raporu üzerine silahlı bir çatışmanın eşiğine geldi. CNN 18 Eylül'de, ABD ordusu içinde dolaşan raporun Orta Doğu'daki bir Çin gemisinin nükleer silah programı bileşenleri taşıdığını öne sürdüğünü bildirdi.

Olayı bilen dört kaynağa göre ABD ordusu harekete geçti ve gemiyi durdurmayı planladı. Bu kaynaklardan ikisi silahlı askerlerin gemiye çıkmaya hazırlandığını, askeri uçakların da havada olduğunu söyledi. Ancak planlanan operasyondan hemen önce yetkililer raporu inceleyip bir özel harekât komutanlığındaki analistin onu yapay zekâ yardımıyla ürettiğini, sohbet botunun geminin taşıdığı maddeyi yanlış tanımladığını ortaya çıkardı. Yanlış tanımlanan yükün ne olduğunu CNN öğrenemedi. Bir kaynak raporu tamamen sahte olarak niteledi ve neredeyse bir savaş başlattığını söyledi.

Zincire yapay zekâ nerede girdi

Analist, Hawaii'deki ABD Pasifik Özel Harekât Komutanlığı'ndan gelen gemi manifestosu istihbaratını bir sohbet botuna sormuştu. Botun ticari bir ürün mü yoksa bir hükümet aracı mı olduğu netleşmedi. Bot, açık kaynak istihbaratını hükümetteki gizli sinyal istihbaratıyla birleştirerek yükle ilgili sonuca vardı. Ardından analist, bulguları askeri yetkililerin güvendiği türde standart bir istihbarat raporuna dönüştürmek için yapay zekâyı bir kez daha kullandı ve raporu dağıttı.

Yapay zekâ sistemlerini bilen eski bir üst düzey ABD yetkilisi CNN'e şöyle dedi: "İç araçlar çoğunlukla ticari ürünlerin ruj sürülmüş kopyaları." ABD Pasifik Özel Harekât Komutanlığı ve Pentagon yorum talebine yanıt vermedi.

Yapay zekâ baskısı ve tek bir standardın yokluğu

Hızlı benimsemenin gerekçesi hız: yapay zekâ, komutanların hangi hedefleri vuracağına ya da kuvvetleri nereye kaydıracağına daha çabuk karar vermesine yardımcı olacak. Ocak ayında Savunma Bakanı Pete Hegseth, teknolojinin askeriyede kullanımını hızlandırmayı amaçlayan bir Yapay Zekâ Hızlandırma Stratejisi yayımladı; strateji, yapay zekâyı bakanlığın üç milyon personeline tüm gizlilik seviyelerinde sunmayı hedefliyor.

Ancak birden fazla ABD yetkilisine göre çaba merkezi değil: hükümetin farklı birimleri farklı emirler ve farklı güvenlik standartları altında farklı araçlar kullanıyor ve bu araçların ürettiklerinin nasıl doğrulanacağına dair tek bir kural seti yok.

Kaynaklar, bu tür bir halüsinasyonun bu araçlar hükümette yayıldığından beri tekil bir olay olmadığını söyledi. Bazı kıdemli istihbarat yetkilileri yapay zekânın analistler üzerindeki baskıyı artırarak istihbaratın daha hızlı üretilip dağıtılmasını zorladığını ve bunun hatalara kapı açtığını belirtiyor; birkaç kaynağa göre bu araçlarla büyüyen genç analistler ise onlara eleştirel olmayan bir güvenle yaklaşıyor. "Yapay zekâ kötü bir fikre daha hızlı ulaşmanızı sağlıyor," diyor bir kaynak. Bir başka kaynak ise hedef seçiminde yapay zekâ kullanımının arttığını, insanın süreçte kalmasının sivil kayıpları nasıl önleyeceğine dair gerçek bir rehber bulunmadığını söylüyor.