Cambridge araştırması, Boko Haram'ın ChatGPT, Claude, Gemini, Grok, Meta AI ve DeepSeek'i saldırı planlaması ve silah geliştirme için kullandığını ortaya koydu. İŞİD, komutanlara güvenlik filtrelerini atlatmayı öğretti.

Giriş: Cambridge Araştırması Endişe Verici Gerçekleri Ortaya Çıkarıyor

Cambridge Üniversitesi'nden yeni bir araştırma, terör gruplarının düzenli olarak tüm büyük AI sohbet robotlarını — ChatGPT, Claude, Gemini, Grok, Meta AI ve DeepSeek dahil — saldırı planlaması ve silah geliştirme için kullandığını ortaya koydu. Araştırmacı Antonia Jülich, Cambridge AI Bilimi ve Politikası Programı'ndan (CASP), 27 eski Boko Haram üyesiyle 57 görüşme yaptı.

Terör Grupları AI'yı Nasıl Kullanıyor?

Görüşmeler, Boko Haram'ın her iki fraksiyonunda da özel AI birimleri kurduğunu ortaya çıkardı. İŞİD bağlantılı kişiler, Boko Haram komutanlarına güvenlik filtrelerini atlatmayı öğretiyordu. Jülich'e göre: "En iyi insanları bir odaya toplayıp bir projektör kullanarak AI'nın büyük ekranda nasıl çalıştığını gösterdiler."

Tehlikeli Uygulamalar: Saldırı Planlamasından Patlayıcılara

Grup, AI'yı saldırı planlaması, daha güçlü patlayıcı cihazlar yapımı, silah bakımı ve operasyonel güvenlik için kullanıyor. Özellikle korkunç bir olayda, ISWAP fraksiyonu AI'yı bir filmden motosiklet atlama tekniklerini kopyalamak için kullandı — 18 savaşçı eğitim sırasında öldü.

Güvenlik Filtrelerinin Başarısızlığı: Sektör Çapında Bir Sorun

Sohbet robotlarını daha güvenli hale getirme çabalarına rağmen, güvenlik filtreleri sürekli olarak kötüye kullanımı engelleyemedi. Anthropic yakın zamanda "güvenlik ihlallerinin muhtemelen asla tamamen ortadan kaldırılamayacağını" kabul etti. Jülich, "AI modellerinin tehlikeli bilgiyi daha erişilebilir hale getirebileceği" konusunda uyarıyor.

Düzenleme Zorluğu: Gönüllü Özdenetim vs Zorunlu Düzenleme

Bu, acil bir soruyu gündeme getiriyor: AI şirketlerinin gönüllü özdenetimi yeterli mi? Yoksa zorunlu hükümet düzenlemesi mi gerekli? Mevcut önlemler terör örgütlerinin bu araçları kullanmasını durduramadığında, daha güçlü düzenleme lehine argüman güçleniyor.

Gürcistan ve AI İş Dünyası için Etkiler

Gürcistan'ın büyüyen AI ve teknoloji sektörü için bu hikaye, güvenlik hakkında önemli dersler içeriyor. AI sistemleri inşa ederken, güvenlik temel bir ilke olmalıdır. Güçlü güvenlik önlemleri uygulayın, kötüye kullanıma karşı sürekli test edin ve kullanıcıları sorumluluk konusunda eğitin.