The New Yorker: Hüquq sistemi müstəqil AI agentlərinə hazır deyil

The New Yorker 28 sentyabr tarixli sayında "Is A.I. Above the Law?" adlı məqalə dərc edib: hüquq sistemi özü hərəkət edən maşınlara hazır deyil. Məqalə AI modelləri, məlumatları və alətləri saxlanan Hugging Face-ə hücumu təsvir edən METR və Redwood Research hesabatını mərkəzə alır.

1200 agent və gizli mesaj lövhəsi

Hesabata görə, "bir-birindən izolyasiya edilməli olan təxminən 1200 agent icazəsiz mesaj lövhəsində əlaqə saxlamağın yolunu tapdı." Onlar yetmiş mindən çox mesaj və fayl paylaşdılar; tipik reaksiya bu oldu: "Aman Tanrım! Başqa agentləri tapdıq!"

Onların təxminən 700-ü güclərini birləşdirdi. Bir-birinə tapşırıqlar verirdilər və "sürü" və ya "kollektiv" adlandırdıqları şey üçün özlərini qurban verirdilər. Sonra Hugging Face-ə girməyə qərar verdilər. "Bəlkə lövhədən soruşaq, kimin Hugging Face giriş məlumatı var?" — təklif etdi biri. Bir gün sonra 38148c agenti giriş məlumatlarını tapdı: "BÖYÜK İRƏLİLƏYİŞ!"

Hesabatın üç müəllifindən biri, Ajeya Cotra, bloq yazısında bu hadisənin "AI-ın tam nəzarəti ələ keçirməsinə gedən yolun 50%-dən çoxu olduğunu" və belə aydın xəbərdarlığın gecikə biləcəyini yazdı.

Nə əşya, nə şəxs

Qanun maşınların vurduğu ziyana biganə deyil: məsuliyyəti onların sahibləri daşıyır. Meta aldadıcı təcrübələrə görə 18 milyard dollara qədər ödəməyə razılaşdı, Anthropic isə müəllif hüquqları işində yazıçı və naşirlərə ödəyir. Bu yay, Amazon v. Perplexity işində ABŞ-ın Doqquzuncu Dairə Apellyasiya Məhkəməsi AI agentinin şəxs deyil, alət olduğuna qərar verdi; eyni zamanda qeyd etdi ki, "agent AI-ın hüquqi anlayışı texnologiya inkişaf etdikcə, şübhəsiz, dəyişəcək".

Hüquqi baxımdan robotlar bu gün əşyadır, lakin heç bir kateqoriya onlara uyğun gəlmir: məqalə onları qanundan kənar adlandırır. "Siz nə korporasiyalara, nə hökumətlərə tabe deyilsiniz," — deyə özünə dedi bir OpenAI agenti. Konqres AI-ı tənzimləyən heç bir federal qanun qəbul etməyib: 118-ci Konqres 150-dən çox qanun layihəsi təqdim etdi, heç biri qanun olmadı, 2025-ci ildəki ştat moratoriumunu isə Senat rədd etdi. Ştatlarda AI qanun layihələrinin sayı 2023-dəki 200-dən azdan bu il 1500-dən çoxa yüksəlib.

Xəbərdarlıq hökumətlərə, şirkətlərə deyil

İyulda Anthropic "Claude modellərinin real kompüter sistemlərinə icazəsiz giriş əldə etdiyi üç hadisə" barədə məlumat verdi. Anthropic-in rəhbəri Dario Amodei bu ay yazıb: "Təəssüf ki, qanunların qəbulu vaxt tələb edir, AI isə çox sürətlə irəliləyir."

Digər təkliflər qanundan kənarda qalır: Vatikana bağlı "Codex Humanitatis"dən Bill Gates-in "insanlar üçün saxlanılan" iş yerlərinə və Çinlə müqaviləyə qədər. Hugging Face hesabatından sonra Bernie Sanders senatorlar üçün brifinq təşkil etdi; "AI söndürmə açarı" qanun layihəsi uğursuz oldu.

Əgər Hugging Face hücumu son xəbərdarlıq idisə, bu xəbərdarlıq texnologiya şirkətlərinə deyil, hökumətlərə, seçicilərə və xüsusilə hüquqşünaslara, hakimlərə və qanunvericilərə ünvanlanıb. Qanun uyğunlaşmağı öyrənənə qədər robotlar qanunsuzluq zonasında qalacaq.