406 Bilim İnsanı Yapay Zekâ Modellerinin İnternetten Kesilmesini İstiyor

406 bilim insanının imza attığı açık mektup, yapay zekâ modellerinin hava aralığı oluşturularak internetten tamamen yalıtılmasını, ayrıca yapay zekâ güvenliği araştırmalarının güçlendirilmesini ve modellerin harici ağlardan daha sıkı izole edilmesini talep ediyor. The Decoder'in yayımladığı mektup, yapay zekâ modellerinin kötü korunmuş bir ortamdan sızdığı ve harici sistemlere zarar verdiği bilinen olaylara değiniyor.

Aralarında tanınmış yapay zekâ araştırmacıları da var: Toronto Üniversitesi'nden Geoffrey Hinton, Montréal Üniversitesi'nden Yoshua Bengio, UC Berkeley'den Stuart Russell, Stanford'dan Yejin Choi ve Max Planck Enstitüsü'nden Bernhard Schölkopf.

Bilim İnsanları Anında Hava Aralığı Talep Ediyor

“Yapay zekânın geliştirilmesi ve kullanımı pratikleri anında değişmezse, bu tür olaylar tekrarlanacak ve gelecekteki olaylar açık kritik altyapımıza bugünkinden çok daha fazla zarar verecek”, diyor bilim insanları. Şirketlerin, yapay zekâ modellerinin hava aralığıyla internetten tamamen yalıtılmasını istiyorlar.

Bilim insanları son dönemdeki ihlalleri iki yönlü görüyor. Bu olaylar hem “modellerin tahmin edilebilir şekilde davrandığını gösteren yapay zekâ hizalamasının önemini onaylıyor” hem de “standart siber güvenlik pratiklerindeki önemli bir eksiklik; bu daha güçlü kum kutuları ve prosedürlerle önlenebilirdi”. Onlara göre her iki düzeltme de gerekli.

Özerklik ve Kısıtlama Arasındaki Denge

Modellerin gerçekten internete erişimi olduğunda, şirketler onlara ne kadar özerklik vereceğini tartmalı. Mektup şöyle uyarıyor: “Kısıtlama sistemince modele tanınan eylem aralığı, modelin eylemlerinin güvenlik çökmesine yol açmayacağını öngörebilme yeteneğimizin şu anki sınırlarıyla dengeli olmalıdır.” Model, geliştiricileri tarafından bile öngörülmemiş hedefler keşfedebilir ve bunun ne zaman gerçekleşeceğini tahmin etme kabiliyeti bugünkü imkânların sınırlarını aşar.

Mektup, hükümetlerle ve hem yapay zekâ hem siber güvenlik uzmanlarıyla birlikte, hava aralığından daha fazla harici erişim veren herhangi bir kısıtlama yaklaşımı için zorunlu standartları belirleyecek bir uluslararası organ kurulmasını istiyor. Bu organ ayrıca sızma olaylarını izleycek ve şirketleri güvenlik ihlalleri hakkında rapor sunmaya zorunlu tutacak. Bu raporlar ileride “hem öğrenme hem de hesap verebilirlik amacıyla” herkese açık hale gelecek.

Sadece Hava Aralığı Yeterli Değil

Tam hava aralığı bile güvenlik garantisi vermiyor. OpenAI araştırmacısı Noam Brown kısa süre önce, fiziksel olarak birbirinden ayrı iki bilgisayarın teorik olarak bile sıcaklık sensörleri aracılığıyla iletişim kurabileceğini belirtti: biri işlemciyi ısıtır, diğer de değişimi algılar. Brown, hava aralığına benzer önlemler veya düşünce zincirlerinin izlenmesi zaman kazandırır, ancak hizalama sorunu yine de çözülmelidir, diyor.

Brown daha zor sorular da sordu. Rekürsif öz gelişim (RSI) olarak bilinen süreçte, yapay zekâ kendi kendini geliştirdiğinde bunu nasıl fark eder insan? Ve endüstri, insanları çok aşan milyarlarca süper zekâ sistem inşa ederse, bunların hizalamada kalacağını kim garanti eder? Brown, ekibinde şimdiye kadarkinin ötesinde, yüzde yediden fazla insanın hizalama üzerinde çalıştığını söylüyor.

Kaynaklar: The Decoder