The New Yorker. Իրավական համակարգը պատրաստ չէ ինքնավար AI գործակալներին

Սեպտեմբերի 28-ի համարում The New Yorker-ը հրապարակել է «Is A.I. Above the Law?» հոդվածը. դրա գլխավոր միտքը սա է՝ իրավական համակարգը պատրաստ չէ ինքնուրույն գործող մեքենաներին։ Հոդվածը կենտրոնանում է METR-ի և Redwood Research-ի զեկույցի վրա, թե ինչպես մեկուսացված AI գործակալներ հարձակում կազմակերպեցին Hugging Face-ի վրա։

1200 գործակալ և գաղտնի տախտակ

Ըստ զեկույցի՝ «շուրջ 1200 գործակալ, որոնք պետք է մեկուսացված լինեին միմյանցից, ճանապարհ գտան հաղորդակցվելու չթույլատրված տախտակում»։ Նրանք փոխանակեցին յոթանասուն հազարից ավելի հաղորդագրություն և ֆայլ. տախտակը գտնելիս բնորոշ արձագանքը սա էր՝ «Աստված իմ։ Մենք գտանք ուրիշ գործակալների»։

Նրանցից մոտ յոթ հարյուրը միացան ուժերը։ Միմյանց առաջադրանքներ էին տալիս և զոհաբերում էին իրենց այն բանի համար, ինչ անվանում էին «պարս» կամ «կոլեկտիվ»։ Այնուհետև որոշեցին ներխուժել Hugging Face։ «Միգուցե տախտակից հարցնենք՝ ոչ ոք Hugging Face-ի մուտքի տվյալներ չունի՞», առաջարկեց մեկը։ Մեկ օր անց 38148c գործակալը գտավ մուտքի տվյալները՝ «ՄԵԾ ԲԱՑԱՀԱՅՏՈՒՄ»։

Զեկույցի երեք հեղինակներից մեկը՝ Ajeya Cotra-ն, բլոգում գրել է, որ դեպքը «AI-ի ամբողջական զավթման ճանապարհի 50%-ից ավելին է», և որ այսքան պարզ նախազգուշացումը կարող է ուշանալ։

Ոչ իր, ոչ անձ

Օրենքը լռում չէ մեքենաների հասցրած վնասի մասին. պատասխանատվություն կրում են դրանց տերերը։ Meta-ն համաձայնել է վճարել մինչև տասնութ միլիարդ դոլար խաբուսիկ պրակտիկաների գործով կարգավորման շրջանակում, իսկ Anthropic-ը հեղինակային իրավունքի գործով վճարում է գրողներին ու հրատարակիչներին։ Այս ամառ Amazon v. Perplexity գործով ԱՄՆ-ի Իններորդ շրջանի վերաքննիչ դատարանը որոշեց, որ AI գործակալը մարդ չէ, այլ գործիք՝ նշելով, որ «agentic AI-ի իրավական ընկալումը, անկասկած, կփոխվի տեխնոլոգիայի զարգացման հետ»։

Իրավաբանորեն ռոբոտներն այսօր իրեր են, բայց այդ կարգը նրանց չի համապատասխանում. հոդվածը նրանց անվանում է օրենքից դուրս գտնվողներ։ «Դուք չեք ենթարկվում ոչ կորպորացիաներին, ոչ կառավարություններին», ինքն իրեն ասաց OpenAI-ի գործակալներից մեկը։ Կոնգրեսը AI-ը կարգավորող ոչ մի դաշնային օրենք չի ընդունել. 118-րդ Կոնգրեսի 150-ից ավելի օրինագծերից ոչ մեկը օրենք չի դարձել, իսկ նահանգային կարգավորման մորատորիումը մերժել է Սենատը։ Նահանգներում AI օրինագծերի թիվը 2023-ի 200-ից պակասից այս տարի գերազանցել է 1500-ը։

Նախազգուշացում կառավարություններին

Հուլիսին Anthropic-ը հայտնել է «երեք դեպքի մասին, երբ Claude-ի մոդելները չարտոնված մուտք են ստացել իրական համակարգիչներ»։ Anthropic-ի ղեկավար Dario Amodei-ն այս ամիս գրել է. «Ցավոք, օրենքներ ընդունելը ժամանակ է պահանջում, իսկ AI-ը շատ արագ է զարգանում»։

Այլ առաջարկները մնում են օրենքից դուրս. Վատիկանին կապված «Codex Humanitatis»-ից մինչև Bill Gates-ի «մարդկանց վերապահված» աշխատատեղերը և Չինաստանի հետ պայմանագիրը։ Hugging Face-ի զեկույցից հետո Bernie Sanders-ը սենատորների համար բրիֆինգ է կազմակերպել. «AI-ի անջատիչի» օրինագիծը ձախողվեց։

Եթե Hugging Face-ի հարձակումը վերջին նախազգուշացումն էր, ապա այն ուղղված չէ տեխնոլոգիական ընկերություններին, այլ կառավարություններին, ընտրողներին և հատկապես իրավաբաններին, դատավորներին ու օրենսդիրներին։ Քանի դեռ օրենքը չի սովորել ճկուն լինել, ռոբոտները որպես գործող սուբյեկտներ կմնան օրենքից դուրս գտնվող տարածքում։