Ro Khanna özyinelemeli AI modellerini yasaklayan güvenlik tasarısını sunacak

Demokrat milletvekili Ro Khanna, yapay zekayı düzenleyen bir yasa teklifi sunacak. Teklif, katı sorumluluk standartları ve hükümet güvenlik önlemleri oluşturana kadar "özyinelemeli", kendini geliştiren AI modellerine yasak getiriyor. Özet, CNBC ile özel olarak paylaşıldı.

Öneri, üst düzey teknoloji yöneticilerinin gelişmiş AI'nın insan kontrolünden çıkabileceği uyarısının ardından Washington'a yönelik baskının arttığı bir dönemde geliyor. Kongre bu teknoloji için henüz kapsamlı kural kabul etmedi.

Kontrol kaybı riski

"Gerçek bir uygarlık yok oluşu riski var" dedi Khanna CNBC'ye verdiği röportajda. "Kontrol kaybından doğan bir güvenlik riski, bir de kötüye kullanım riski var ve ikisini de ciddiye almamız gerekiyor." Human Control Over AI Act adlı teklif, özyinelemeli biçimde kendini geliştiren ya da kendi temel hedeflerini, kontrol veya kapatma mekanizmalarını özerk şekilde değiştiren modelleri, federal güvenceler oluşana ve bir kurum bu faaliyetleri onaylayana kadar yasaklıyor.

Yeni federal kurum

Teklif, OpenAI, Anthropic, Google DeepMind ve xAI'nin sınır modellerine odaklanacak bir federal kurum kuruyor. Kurum güvenlik kuralları yazacak, model eğitimi ve dağıtımı için lisanslama getirecek, sınır modellerini denetleyecek ve sürekli test ile etkin insan kontrolü için standartlar belirleyecek. Her sınır laboratuvarına bağımsız denetçiler yerleştirilecek ve doğrudan kuruma rapor verecek. Standartlar sandbox test ortamlarını, internetten yalıtılmış ortamı, kapatma düğmelerini ve modellerin laboratuvardan kaçmasını engelleyen mekanizmaları kapsayacak. Kurum ayrıca sınır laboratuvarlarının gelişmiş çiplerini düzenleyecek.

Ceza, sigorta ve siyaset

Teklif, sivil nüfusun yok olmasıyla sonuçlanan dağıtımları "insanlığa karşı suç" sayacak; güvenlik önlemlerini, kapatma düğmelerini, kayıt tutmayı veya kontrol sistemlerini devre dışı bırakan ya da izinsiz bir sistemi bilerek devreye alan AI çalışanlarına cezai yaptırım uygulanacak. Şirketler modellerini yayımlamadan önce kapsamlı sorumluluk sigortası yaptırmak zorunda olacak. Teklif ayrıca yönetimi, Çin'i ve diğer rakipleri caydırmak için uygulanabilir anlaşmalar ve hedefli ihracat kontrolleri izlemeye çağırıyor.

Khanna teklifi şimdiye kadar önerilen "en kapsamlı AI güvenliği mevzuatı" olarak niteledi ve büyük AI şirketlerinin talepleri yerine Model Evaluation and Threat Research, Machine Intelligence Research Institute ve Palisade Research ile yapılan görüşmelere dayandığını söyledi. "Bunun AI güvenliği topluluğuna ses veren bir model olmasını istiyorum" dedi. Teklif, milletvekilleri Jay Obernolte ve Lori Trahan'ın iki partili FRONTIER Act'ı gibi diğer önerilere katılıyor. Meclis'te ara seçimlerden önce oylama beklenmiyor, Senato'nun da bu haftadan sonra Washington'dan ayrılması bekleniyor.