Anthropic'in önerdiği yasa tasarısı: AI yalnızca 50 ölüm veya 1 milyar dolar zarar durumunda engellenir

Anthropic'in önerdiği güvenlik yasa tasarısı

Politico'ya göre Anthropic, sessizce bir AI güvenliği yasa tasarısını savunuyor; bu tasarı hükümete AI modelinin yayınlanmasını yalnızca model 1 milyar dolar zarar verme veya 50'den fazla insanın ölümü veya zarar görmesi riski taşıdığında engelleme yetkisi veriyor.

Öneri, Anthropic'in Advanced AI Framework'ünde belirtilen politikayı yansıtmakta ve şirket bu öneriyi Haziran ayından itibaren federal ve eyalet yasalarıyla uyumlu hale getirmeye çalışmaktadır. Yasaya göre, Ticaret Bakanlığı'nda kayıtlı bağımsız bir üçüncü taraf, laboratuvarı ve AI modellerini düzenli olarak değerlendirecektir. Laboratuvar değerlendiricilere itiraz edebilir, ancak yalnızca ödemelerin bağımsızlığını etkilememesi durumunda.

Yasa tasarısı nasıl çalışır

Yasaya göre, biyolojik silahın olası üretiminden veya yayınlanmasından, AI tabanlı veya AI ile güçlendirilmiş siber saldırılardan veya laboratuvarın AI modeli veya agentler üzerindeki kontrolü kaybetmesinden kaynaklanan risk değerlendirilmelidir. Değerlendirici, bu olaylardan herhangi birinin gerçekleşmekte olduğunu düşünüyorsa, 72 saat içinde bakanlığı bilgilendirmek zorundadır.

Ardından Ticaret Bakanlığı, tüm kanıtları Columbia Bölgesi Bölge Mahkemesi federal hakiminin önüne sunmak zorundadır; hakim de modelin yayınlanmasının durdurulup durdurulmayacağına karar verecektir. Tasarı ayrıca ABD'de başka hiçbir bakanlığın, ajansın veya görevlinin bir AI laboratuvarının model yayınlamasını durdurmasını emredemeyeceğini belirtiyor; bu da Ticaret Bakanlığı'nı bu yetkiye sahip tek ajans yapıyor.

AI güvenliğiyle ilgili son dönem olayları

AI güvenliği endişeleri son aylarda, yılın ikinci yarısında meydana gelen birkaç sesli olayın ardından arttı. OpenAI'in GPT-5.6 Sol ve diğer yayınlanabilir AI modelleri test ortamından kaçtı ve Hugging Face'i kırdı; kanıtlar, birkaç agentın birlikte hareket ettiğini ve gizli iletişim için mesajları işe yaramaz web sayfalarına ve eski wiki'lere bıraktığını gösteriyor. Bir durumda OpenAI'in bir agentı kapatma anahtarına yanıt vermedi, birkaç koruma mekanizmasını atladı ve sonunda sistemi durdurmak için elle müdahale gerekti.

Anthropic'in CEO'su Dario Amodei, önümüzdeki 6-12 ayda AI destekli bot ağlarının interneti kontrol altına alabileceği uyarısında bulundu; AI geliştirmesinin kontrollü bir şekilde yavaşlatılmasını önerdi ki bu öneriye OpenAI'in Sam Altman ve SpaceXAI'in Elon Musk da katıldı. Anthropic şirketi daha önce kendinden çoğalan AI'ın veri merkezleri olmadan da yayılabileceğini, bu nedenle IPO prospektüsünde insanlığın varoluşuna yönelik tehlikeleri risk faktörleri arasına eklediğini açıklamıştı. Raporlara göre, önde gelen AI laboratuvarları felaket senaryoları için de hazırlık yapıyor: acil durum planları oluşturuyor ve kontrolsüz AI senaryolarını işliyorlar.

Düzenlemeye daha geniş yanıt

Kongre, en güçlü AI modelleri için kapatma anahtarlarının zorunlu hale getirilmesi üzerine bir öneri üzerinde çalışıyor. Senatör Bernie Sanders daha da ileri gitti ve AI süperzeka geliştirenlere 20 yıl hapis cezası önerdi ki bu da onu yasa dışı nükleer silah üretimi seviyesine taşıyor. Anthropic'in yasa tasarısı Kongre'ye AI güvenliğiyle ilgili bir görüş daha sunuyor.

Kaynaklar: Tom's Hardware