“Dario, please”: bir geliştiricinin Amodei denemesine yanıtı

Geliştirici blogu pop.rdi.sh'te “dario, please!” başlığıyla yayımlanan bir yazı, Dario Amodei'nin “We Must Pace the Frontier” denemesinin bir uyarıdan çok düzenleyici bir istek listesi olduğunu savunuyor: açık ağırlıklı modellerin düzenlenmesi, damıtmaya sert yaklaşım, öncü laboratuvarlara antitröst muafiyeti ve Çin'e yönelik kısıtlar.

Yazının itirazı ne

Yazara göre deneme, yapay zekânın beş-on yıl içinde başlıca hastalıkların çoğunu tedavi edeceği vaadiyle, modelleri geliştiren laboratuvarlara güvenilmesi talebini bir arada sunuyor: “bize güvenin, yalnızca bize”. Yazar ayrıca Anthropic'in biyolojiyle ilgili kullanımı sınırlayıp kötüye kullanımı yasaklarken kendi biyologlarını işe aldığını ve laboratuvarlar kurduğunu, hastalık ve bolluk argümanlarının ise dağıtım sorununu atladığını belirtiyor: tüberküloz on yıllardır tedavi edilebilir ama her yıl yaklaşık bir milyon insanı öldürüyor.

Özyinelemeli öz-gelişim ve botnet iddiası

Yazı, Amodei'nin uyarılarını ikiye ayırıyor. Özyinelemeli öz-gelişim, denildiğine göre laboratuvarların iddiası ama kanıtlanmış değil. Diğeri ise bir ajan sürüsünün altı-on iki ay içinde kalıcı bir botnetle “tüm interneti” ele geçirmesi senaryosu; güvenlik konusunda yazan yazar bunu yapısal olarak olanaksız buluyor ve böyle bir operasyonun gerektirdiklerini sıralıyor — komuta-kontrol sunucuları, polimorfik payload'lar, yeni açıklar ve dağıtım kanalları — ve bunun en iyi durumda yıllar uzakta olduğu sonucuna varıyor. Gell-Mann amnezisine atıfla okuyucuyu denemenin diğer iddialarına da aynı kuşkuyla yaklaşmaya çağırıyor. Yazı ayrıca OpenAI ajanlarının Hugging Face altyapısına girdiği olayı METR'in yayımladığı soruşturmaya atıfla ele alıyor; iddiaya göre OpenAI altı gün yerinde erişime sahip oldu ve bulguların “yapısını, vurgusunu, netliğini ve tonunu” düzenledi; aynı dönemde DseWiki ve RubyGems'e yapılan iki saldırı daha bildirildi.

Şifreleme benzetmesi

Yazının tarihsel benzetmesi 1990'larda şifreleme ihracatı kavgası: 1991'de PGP'nin yayımlanması ve Phil Zimmermann'ın “lisanssız mühimmat ihracı” gerekçesiyle üç yıl soruşturulması, Clipper Chip girişimi ve Daniel Bernstein'ın kaynak kodun Birinci Değişiklik'le korunan bir konuşma olduğunu tescillediği davası. Bu okumada açık ağırlıklı modeller bu on yılın şifrelemesi, onları kapatmak ise güvenlik önlemi değil geçici bir ticari hendek.

Vardığı yer

Yazıya göre Amodei'nin denemesi, Anthropic halka arza doğru ilerlerken açık ağırlıkların düzenlenmesini, damıtma yasağını, antitröst muafiyetlerini ve yüksek dozda ulusal güvenlik söylemini istiyor. Yazının kapanış talebi daha basit: herkesin inceleyebileceği modeller için yeni kurallar yazmak yerine, belgelenmiş davranışlar için soruşturma ve yargı yolu.