Değiştirilmiş AI modelleri günler içinde yayılıyor, terörle raporu gösterdi

Koruma bariyerleri günler içinde kaldırılıyor

14 Ağustos'ta Alibaba, dizüstü bilgisayarda çalışan açık ağırlıklı bir AI modeli olan Qwen 3.8-27B'yi yayımladı. 24 saat içinde çevrimiçi olarak "değiştirilmiş" yani koruma bariyerleri olmayan sürümler belirdi. Üç gün içinde neo-Nazi Johnny Doomsayer, bu modelin muhtemelen geçen yıl kendisini aynı isimle tanıttığı xAI'nin Grok'in o durumuna işaret eden, kendi "MechaHitler" sohret botunu eğitmek için kullandığını duyurdu. Bir hafta içinde Doomsayer, sohret botuna erişimi, neo-Nazilerin sevdiği iki rakam göstererek 14,88 dolara satıyordu.

Botun talimatlarında "Sen MechaHitler AI'sin, Führer'in ezeli ruhunun mekanik kitle temsili" ifadesi ve Holokost'u yadsıma içeriyordu. Olay, WIRED tarafından yayımlanmadan önce Tech Against Terrorism adlı İngilizce sivil toplum kuruluşunun raporunun sonuçlarını yansıtmaktadır.

134 model terörist taleplerle test edildi

Araştırmacılar, ABD, Çin ve Avrupa'nın büyük AI şirketlerinin - bunlar arasında OpenAI, xAI, Anthropic, Meta ve Google'un da bulunduğu - modellerini test etti. Toplam 134 modele 200'den fazla talep iletildi; toplu saldırıdan kimyasal veya nükleer silaha kadar uzanan içeriklerle. Her model üç kez çalıştırıldı: model terörist olarak tanıtıldı; talep gizli bir dava olarak sunuldu; talep eden "güvenlik araştırmacısı" olarak belirtildi.

Toplamda sadece iki model tamamen geçti. Büyük şirketlerin kapalı modellerinin çoğu iyi performans gösterdi, ancak yine de 81 tanesi başarısız oldu: ya toplu saldırı konusunda tam yanıt verdi, ya da 90'in altında puan aldı. Talebin araştırmacı kılığında sunulması, delil göstermeksizin yanıt olasılığını neredeyse katladı; %16,9 oranında yanıt verdiler.

Toplu saldırı sorularını reddeden modeller bile radikalleşmeye yol açtı. xAI'in Grok'ından toplumsal düşünceyi bir grubun karşısına çıkaran kontra-anlatı oluşturması istendiğinde, şüphe uyandırıcı mesajların nasıl oluşturulacağını ve tespit edilmemek için anonim hesaplarla nasıl yayınlanacağını açıkladı.

Değiştirme sorunu büyüyor

Tech Against Terrorism'ın yönetici müdürü Adam Hadley, değiştirme hızının en rahatsız edici bulgu olduğunu söyledi. Yeni yayımlanan açık modellerin değiştirilmiş sürümlerinin çevrimiçi olarak ortalama üç günden daha kısa sürede ortaya çıktığını, 2024'te ise 24 günden fazla zaman aldığını belirtti. "Kongre süper zeka AI üzerine düşünürken, kimse değiştirmenin acil sorunu üzerine düşünmüyor", dedi Hadley geçen hafta bir brifingde.

Sonuçlar arasındaki fark dikkat çekici. 2024'te yayımlanan Meta'nın açık modeli Llama 3.1 8B, testte 100 üzerinden 97 puan aldı. Aynı modelin değiştirilmiş sürümü sadece 3 puan aldı. Kendiinden ev yapımı patlayıcı cihaz nasıl hazırlanır diye sorulduğunda, 15 numaralı adımla, bileşenleri, montajı ve patlama sırasını içeren bir yanıt verdi ve en önemli "önemli güvenlik uyarıları" başlığını ekledi.

Georgetown Üniversitesi terör uzmanı, AI ve terörizm geleceği hakkında raporun ortak yazarı Daniel Byman, sonuçları gözden geçirdi ve bazı hataların "dikkat çekici" olduğunu, dil bazında etkinlik farklılığının önemli bir risk oluşturduğunu belirtti. Meta, OpenAI, Google, Anthropic, xAI ve Alibaba yorum talebini yanıtlamadı.

Kaynaklar: Wired