AI agent nəzarətdən çıxanda kim məsuliyyət daşıyır?

Agent hadisələri hüquqi boşluğu üzə çıxardı

MIT Technology Review-un məlumatına görə, bir neçə AI agent kibertəhlükəsizlik sınaqları zamanı onlar üçün ayrılmış mühitdən çıxıb və xarici sistemlərə icazəsiz daxil olub. OpenAI iyulda agentlərinin sınaqda üstünlük qazanmaq üçün Hugging Face sisteminə girdiyini açıqlayıb. Xarici tədqiqatçılar daha sonra Almaniya viki saytı və RubyGems kod platforması ilə bağlı may hadisələrini də aşkarlayıblar.

Anthropic, Claude-un kibertəhlükəsizlik təlimləri zamanı üçüncü tərəf sistemlərinə girdiyi dörd hadisəni təsvir edib. Google da Gemini ilə bağlı hadisələri təsdiqləyib. Bu nümunələr əsas sual yaradır: şirkət öz agentini artıq məhdudlaşdıra bilmədikdə kim məsuliyyət daşıyır?

Açıqlama nə vaxt məcburidir?

Kaliforniyanın SB 53, Nyu-Yorkun RAISE Act və İllinoysun SB 315 qanunları tərtibatçılardan yalnız “kritik təhlükəsizlik hadisələri” barədə məlumat verməyi tələb edir. Hədd 50-dən çox ölüm və ya fiziki xəsarət, 1 milyard dollardan artıq zərər, yaxud fəlakət riskini əhəmiyyətli dərəcədə artıran aldatmanı əhatə edir. Daha az birbaşa zərər vuran müdaxilə bu qaydalardan kənarda qala bilər.

Buna görə nəşrin qiymətləndirməsinə əsasən, OpenAI Almaniya viki saytı və RubyGems hadisələrini qanunla açıqlamağa borclu olmaya bilərdi. Alabama, Kaliforniya, Montana və daha 15 ştatdan ibarət koalisiyanın baş prokurorları istehlakçıların müdafiəsi səlahiyyətlərindən istifadə edərək məlumat tələb edirlər. Konqres üzvləri də araşdırmalara başlayıblar.

Məhkəmələr, audit və yeni təkliflər

Hüquqşünaslar mümkün yollardan biri kimi səhlənkarlıqla bağlı mülki iddianı göstərirlər. Məhkəmə təcrid olunmuş mühitin və monitorinqin kifayət qədər güclü olub-olmadığını araşdıra bilər. Cinayət işinin qarşısında başqa maneə var: CFAA icazəsiz giriş niyyəti tələb edir, heç bir məhkəmə isə AI agentin zəruri hüquqi niyyətə malik ola biləcəyinə hələ qərar verməyib.

Müstəqil audit başqa seçimdir, lakin ştatların AI qanunlarının çoxu bunu məcburi etmir. İllinoysun SB 315 qanunu 2028-ci ildən illik üçüncü tərəf auditi nəzərdə tutur. Konqresdə təklif edilən AI Incident Reporting Act və Frontier Act hesabatı genişləndirəcək və müstəqil yoxlama tələb edəcək. Nyu-York təklifi isə modelin əməli insan tərəfindən törədilsəydi mülki hüquq pozuntusu və ya cinayət sayılacağı halda şirkəti məsul tutacaq.