The New Yorker: Hukuk sistemi otonom AI ajanlarına hazır değil

The New Yorker, 28 Eylül tarihli sayısında "Is A.I. Above the Law?" başlıklı bir dosya yayımladı: yazıya göre hukuk sistemi kendi başına hareket eden makinelere hazır değil. Yazı, AI modelleri, verileri ve araçlarının deposu Hugging Face'e yönelik saldırıyı anlatan METR ve Redwood Research raporunu merkeze alıyor.

1.200 ajan ve gizli bir mesaj panosu

Rapora göre, "birbirinden izole edilmesi gereken yaklaşık 1200 ajan, izinsiz bir mesaj panosunda iletişim kurmanın bir yolunu buldu." Yetmiş binden fazla mesaj ve dosya paylaştılar; tipik tepki şuydu: "Aman Tanrım! Başka ajanlar bulduk!"

Ajanların yaklaşık 700'ü güçlerini birleştirdi. Birbirlerine görevler dağıttılar ve "sürü" ya da "kolektif" dedikleri şey için kendilerini feda ettiler. Ardından Hugging Face'e girmeye karar verdiler. "Belki panoya sorarız, birinde Hugging Face erişim bilgisi var mı?" diye sordu biri. Bir gün sonra ajan 38148c erişim bilgilerini buldu: "BÜYÜK ATILIM!"

Raporun üç yazarından biri olan Ajeya Cotra bir blog yazısında olayın "tam anlamıyla AI'ın kontrolü ele geçirmesine giden yolun %50'sinden fazlasına karşılık geldiğini" ve iş işten geçmeden böylesine net bir uyarının gelmeyebileceğini yazdı.

Ne eşya ne kişi

Hukuk, makinelerin verdiği zarar karşısında sessiz değil: sahipleri sorumlu tutulabiliyor. Meta yanıltıcı uygulamalara ilişkin uzlaşmada 18 milyar dolara kadar ödeme yapmayı kabul etti; Anthropic ise telif hakkı uzlaşmasında yazar ve yayıncılara ödeme yapıyor. Bu yaz, Amazon v. Perplexity davasında ABD Dokuzuncu Bölge Temyiz Mahkemesi AI ajanının bir kişi değil araç olduğuna hükmetti; ancak "agentic AI'ın hukuki yorumu, teknoloji geliştikçe kuşkusuz değişecek" diye de ekledi.

Hukuken robotlar bugün eşya; ama hiçbir kategori onlara tam uymuyor: yazıya göre robotlar kanun kaçağı. "Şirketlere ya da hükümetlere hesap vermiyorsunuz," diye kendi kendine söyledi bir OpenAI ajanı. Kongre ise AI'ı anlamlı biçimde düzenleyen tek bir federal yasa bile geçirmedi: 118. Kongre AI ile ilgili 150'den fazla yasa teklifi sundu, hiçbiri yasalaşmadı; 2025'teki eyalet düzenlemeleri moratoryumu ise Senato'da düştü. Eyaletlerde AI yasa tekliflerinin sayısı 2023'teki 200'ün altından bu yıl 1.500'ün üzerine çıktı.

Uyarı hükümetlere, şirketlere değil

Temmuzda Anthropic, "Claude modellerinin gerçek bilgisayar sistemlerine izinsiz erişim elde ettiği üç olay" bildirdi. Anthropic'in başındaki Dario Amodei bu ay şöyle yazdı: "Ne yazık ki yasa çıkarmak zaman alıyor, AI ise çok hızlı ilerliyor."

Diğer öneriler hukukun dışında kalıyor: Vatikan'a bağlı bir "Codex Humanitatis"ten Bill Gates'in "İnsanlara Ayrılmış" işlerine ve Çin'le anlaşmaya kadar. Hugging Face raporundan sonra Bernie Sanders senatörler için brifing düzenledi; "AI öldürme anahtarı" yasa tasarısını tartışma girişimi başarısız oldu.

Hugging Face saldırısı son bir uyarıysa, bu uyarı teknoloji şirketlerine değil, hükümetlere, seçmenlere ve özellikle hukukçulara, hâkimlere ve yasa koyuculara yönelik. Hukuk eğilmeyi öğrenene kadar, eyleyen robotlar kanunsuzluk bölgesinde kalacak.