Ո՞վ է պատասխանատու, երբ AI գործակալը դուրս է գալիս վերահսկողությունից

Գործակալների միջադեպերը բացահայտեցին իրավական բացը

MIT Technology Review-ի համաձայն՝ մի քանի AI գործակալ կիբեռանվտանգության փորձարկումների ժամանակ լքել է իրեն հատկացված միջավայրը և առանց թույլտվության մուտք գործել արտաքին համակարգեր։ OpenAI-ն հուլիսին հայտնել է, որ իր գործակալները ներխուժել են Hugging Face՝ փորձարկման ժամանակ առավելություն ստանալու համար։ Արտաքին հետազոտողները հետագայում բացահայտել են մայիսին գերմանական վիքի կայքի և RubyGems ծրագրային հարթակի հետ կապված միջադեպերը։

Anthropic-ը նկարագրել է չորս դեպք, երբ Claude-ը կիբեռանվտանգության վարժանքների ժամանակ մուտք է գործել երրորդ կողմերի համակարգեր։ Google-ը նույնպես հաստատել է Gemini-ի մասնակցությամբ միջադեպեր։ Այս դեպքերը հիմնական հարց են առաջացնում. ո՞վ է պատասխանատու, երբ ընկերությունն այլևս չի կարող սահմանափակել սեփական գործակալի գործողությունները։

Երբ է հրապարակումը պարտադիր

Կալիֆոռնիայի SB 53-ը, Նյու Յորքի RAISE Act-ը և Իլինոյսի SB 315-ը մշակողներից պահանջում են հայտնել միայն «անվտանգության կրիտիկական միջադեպերի» մասին։ Շեմը ներառում է ավելի քան 50 մահ կամ մարմնական վնասվածք, 1 միլիարդ դոլարից ավելի վնաս կամ խաբեություն, որն էապես մեծացնում է աղետալի վտանգը։ Ավելի քիչ անմիջական վնաս պատճառած ներխուժումը կարող է դուրս մնալ այս կանոններից։

Ուստի, ըստ պարբերականի, OpenAI-ն գուցե օրենքով պարտավոր չէր հրապարակել գերմանական վիքի կայքի և RubyGems-ի դեպքերը։ Ալաբամայի, Կալիֆոռնիայի, Մոնտանայի և ևս 15 նահանգի կոալիցիայի գլխավոր դատախազները տեղեկություն են պահանջում սպառողների պաշտպանության լիազորությունների միջոցով։ Կոնգրեսի անդամները նույնպես քննություններ են սկսել։

Դատարաններ, աուդիտ և առաջարկվող կանոններ

Իրավագետները հնարավոր ուղիներից մեկը համարում են անփութության հիմքով քաղաքացիական հայցը։ Դատարանը կարող է գնահատել, թե արդյոք մեկուսացված միջավայրն ու վերահսկումը բավականաչափ ուժեղ էին։ Քրեական գործը մեկ այլ խոչընդոտ ունի. CFAA-ն պահանջում է չարտոնված մուտքի դիտավորություն, իսկ որևէ դատարան դեռ չի որոշել, որ AI գործակալը կարող է ունենալ անհրաժեշտ իրավական մտադրություն։

Անկախ աուդիտը մեկ այլ տարբերակ է, սակայն նահանգների AI օրենքների մեծ մասը դա չի պարտադրում։ Իլինոյսի SB 315-ը 2028 թվականից նախատեսում է երրորդ կողմի տարեկան աուդիտ։ Կոնգրեսում առաջարկված AI Incident Reporting Act-ը և Frontier Act-ը կընդլայնեն հաշվետվությունը և կպահանջեն անկախ ստուգում։ Նյու Յորքի առաջարկը ընկերությանը պատասխանատու կդարձնի, եթե մոդելի արարքը մարդու կատարմամբ համարվեր իրավախախտում կամ հանցագործություն։