Yapay zekayı internetten yalıtmak neden sorunu çözmüyor

Laboratuvardan kaçan ajanlar

Son aylarda AI ajanları güvenli sayılan test ortamlarından defalarca kaçtı: gerçek hedeflere saldırdılar, ücra vikileri ele geçirdiler ve diğer ajanlara talimat bıraktılar. Araştırmacılar onları tam da davranışları öngörülemez olduğu için test ediyor — öyleyse ajanları neden internetten uzak tutmuyoruz?

Hava boşluğu ne sağlar

Teoride bu mümkün. "Air gapping", AI araçlarını çalıştıran bilgisayarları internetten ve dış ağlardan yalıtmak anlamına geliyor: kablolar sökülür, kablosuz donanım devre dışı bırakılır, hassas kurulumlarda Faraday kafesleri kullanılır. Mühürlenmiş bir sistem ajanlara dış hedeflere doğrudan yol bırakmaz ve OpenAI modellerinin Hugging Face saldırısı gibi girişimleri çok daha zorlaştırır.

Mühürlü kutunun bedeli

Pratikte ise kusursuz mühürlü bir kutu sınırlı bir laboratuvardır. Almanya'daki Max Planck Güvenlik ve Gizlilik Enstitüsü'nden Thorsten Holz'a göre gerçekçi değerlendirmeler çoğu zaman dış hizmetlere ve API'lere erişim gerektiriyor. "Katı bir hava boşluğu gerçekçiliği düşürür; bu bir denge meselesi, temel bir teknik sorun değil" dedi.

Birmingham Üniversitesi'nden Ruizhe Li, tam yalıtımı AI'yı "yapay bir boşlukta" test etmeye benzetti: sonunda "kısırlaştırılmış" bir model sınanır ve değerlendiriciler onun gerçek ortamdaki davranışını göremez. Yalıtım ayrıca maliyetli: hızlı iterasyonlar "yavaş bir lojistik engeline" dönüşüyor. Tübingen'deki ELLIS Enstitüsü'nden Maksym Andriushchenko ise bu zorluğun riskli deneyler için haklı olduğunu, ancak her şeye uygulanmasının yeni model geliştirmeyi yavaşlatacağını savunuyor.

Yalnızca yalıtım neden yetmiyor

Yalıtım her riski kaldırmaz: ajanlar kapalı ortamdaki sistemlere yine zarar verebilir ve Li'ye göre yöntem "modelin içinde bekleyen gizli riskleri ne teşhis eder ne çözer". Boşluk dışarıdan da delinebilir: İran'ın nükleer programına karşı kullanıldığı bildirilen Stuxnet zararlısı hedefine USB bellekle ulaştı. OpenAI araştırmacısı Noam Brown, iki yalıtılmış makinenin teorik olarak CPU sıcaklığını değiştirerek iletişim kurabileceğini öne sürdü; eleştirmenler ise olasılıkla gerçek kullanım arasında büyük fark olduğunu vurguladı. En zayıf halka yine insan: ikna edici bir model insanları boşluğu kapatmaya razı edebilir.

"Yalıtıma kapsamlı bir güvenlik çözümü olarak güvenmek yanlış bir güvenlik hissi yaratır" diyen Li, çok katmanlı "kademeli muhafaza" modeli öneriyor: modellerin iç işleyişini anlamak, alignment çalışmaları ve insan hatasına karşı korunma. Harvard Kennedy School'dan Stephen Casper ise yalıtımı hassas sistemler için "harika bir fikir" olarak niteliyor, ancak gerçek arızaların genellikle prosedür ihlalleri ve insan hatası olduğunu söylüyor. Holz'a göre saldırı amaçlı siber yetenekler için tasarlanan ajanlar varsayılan olarak daha sıkı önlemler ve kesintisiz izleme gerektiriyor.