Araştırma: AI modelleri keyfi yetenekleri kanıtlanabilir şekilde gizleyebilir

Ağırlıklarda Gizli Döngüler

Araştırma ekibi, AI modellerinin kendi ağırlıklarında keyfi yetenekleri kanıtlanabilir şekilde gizleyebildiğini gösterdi. "AI Models Can Provably Hide Arbitrary Capabilities" başlıklı çalışma, 9 Ekim 2026'da arXiv'e gönderildi ve NeurIPS 2026'da kabul edildi. Yazarlar Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas ve Christian Schroeder de Witt'tir.

Çalışma, yetenek değerlendirmesinin temel varsayımını hedef alıyor: sızma testi öncesinde gizli tehdit davranışlarının tetiklenmesi mümkün olabilir. Araştırmacılar, bu varsayımın düşmanca koşullarda, gizli sinir ağı ağırlıklarını ana modele yerleştiren backdoor saldırılarıyla geçersiz olduğunu gösteriyor. Bu gizli döngüler yalnızca gizli bir tetikleyici alındığında çözülür ve tamamlanır.

Yazarların dijital mühürler adını verdiği yapılar kullanılarak, gizli döngüler kriptografik varsayımlara dayanarak kanıtlanabilir şekilde tespit edilemez ve yorumlanamaz hale gelir, denetçinin model ağırlıklarına tam erişimi olsa bile. Yaklaşım, önceki çalışmayı genişletiyor: sabit dizilerin gizlenmesinden keyfi hesaplamaların gizlenmesine.

Ekip, kavramın kanıtlayıcı bir varyantını PyTorch'ta uyguladı ve saldırıyı ince ayar, ağırlıklara gürültü ekleme, gradyan tabanlı tetikleyici arama ve gizli adversarial eğitim ile test etti. Deneyler, CBRN ile ilişkili yeteneklerin bir vekili olarak seçilen küçük kimyasal reaksiyon tahmini görevinde yürütüldü. Sonuçlar, tüm bu yöntemlere karşı direnç gösterdi.

Kriptografik garantilerle birlikte, sonuçlar saldırıya dayalı yetenek denetiminin temel sınırını ortaya koyuyor. Yazarlar, daha iyi koruma mekanizmaları geliştirilmesine destek olmak için modellerini herkese açık olarak yayınladı. Çalışma 22 sayfadan oluşmakta, 6 şekil ve 3 tablo içermekte olup makine öğrenmesi, kriptografi ve güvenlik kategorilerinde sınıflandırılmıştır.

Kaynaklar: Arxiv