OpenAI-ն և Anthropic-ը կոչ են անունում բրիտանական օրենսգետներին ստեղծել AI-ի պարտադիր կանոններ

Վեճեր AI-ի առաջատարների միջև

OpenAI-ի և Anthropic-ի ներկայացուցիչները հաղորդեցին Մեծ Բրիտանիայի խորհրդարանի կոմիտեին, որ կամընավոր անվտանգության պարտավորությունները բավարար չեն և անհրաժեշտ են պարտադիր օրենքներ: Սա խորացրեց վեճը Google DeepMind-ի և Meta-ի հետ, որոնք չեն աջակցում նոր օրենսդրույթին:

Պրոֆիլային կոմիտեն լսեց չորս առաջատար AI-ընկերություններին, չորս վախերի հետ ելլված նախկին աշխատակիցներին և գերազանց հասարակական մասնագետներին: Anthropic-ի Եվրոպայի ղեկավար Լիամ Բութ-Սմիթը ասաց, որ ընկերությունը «հաստատ կարծում է, որ ընկերությունների համար պարտադիր կանոններ պետք է լինեն և կամընավոր պարտավորությունները բավարար չեն»: OpenAI-ի փոխնախագահ Թոմ Դուբ Գորդոնը աջակցեց օրենքով հաստատված դասկազմին և միջազգային կոնվենցիային, ասելով, որ «որոշ տարրեր պետք է պարտադիր լինեն», սկսած ինցիդենտների հաղորդումներից:

Նրանց մրցակիցները չհետևեցին: Հարցին պատասխանելով՝ արդյոք աջակցու՞մ են օրենքով հաստատված դասկազմին, Google DeepMind-ի Օուեն Լարտերն ասաց, որ ընկերությունը կենտրոնանում է ստանդարտների վրա: Meta-ի Ռոբ Շերմանը հայտնեց Մեծ Բրիտանիայի գործող ռեգուլյատորներին և հաղորդեց խորհրդարանցուն, որ նրանք «դատարկ էջում չեն գրում».

Կամընավոր ռեժիմ

Հասարակական մասնագետները հաստատեցին, թե ինչքան քիչ պարտավորություն կատարում է գործող համակարգը: Մեծ Բրիտանիայի AI Security Institute-ը փորձարկում է հիմնական մոդելները թողարկումից առաջ, բայց միայն այն դեպքում, երբ ընկերություններն ինքները տրամադրում են դրանք: Նրա տնօրեն Հենրի դե Զուտը հաստատեց, որ ինստիտուտը ամբողջությամբ կախված է ընկերությունների և արտերկրյա իշխանությունների համագործակցությունից: Կաբինետի պաշտոնի գերազանց հասարակական մասնագետ Քեթ Լիթլը հաստատեց, որ ռեժիմը կամընավոր է: «Ներկայում, այո, այդպես է»:

Դե Զուտը հաստատեց, որ AISI-ն իրավունք չունի կանգնեցնել ընկերություն, որը, իր գնահատականով, չափազանց վտանգավոր մոդել է թողարկում, և ասաց, որ նա չի վկայագրում մոդելները: Նա նշեց, որ առաջատար ընկերությունները ամերիկյան կամ չինական են և որ «մենք, ինչպես Մեծ Բրիտանիան, սահմանափակ հնարավորություններ ունենք»: Առաջատարները նաև պարզեցին, որ Մեծ Բրիտանիայի հասանելիությունը Վաշինգտոնին գերակշռում է, OpenAI-ն իսկ ասաց, որ կարձանագրում է մոդելների տարածումը AISI-ի հետ, «մինչև դրա կատարումը ԱՄՆ կառավարության պայմաններում հնարավոր է».

Վախեր և զգուշացումներ

Չորս նախկին լաբորատորիայի հետազոտող տվեց վկայություն՝ ներառյալ OpenAI-ի նախկին աշխատակից Դանիել Կոկոթայլոն, որը ասաց. «Ինձ համար չի թվում, որ ընկերությունները կարող են վստահվել ինքնակառավարման համար»: Սթիվեն Ադլերը, որը հեռացավ OpenAI-ից 2024 թվականի վերջին, ասաց, որ հավատու չէ գործող ինդուստրիայի անվտանգության մշակության մեջ: Ջեֆռի Իրվինգը ասաց, որ լաբորատորիաները սխալ են մտածում, թեպետք թվում է, թե նրանք մրցավազքում են կողքակցված տեղերում, որոնք կառավարությունները չեն հանգեցնում.

Լսումը համընկավ MI5-ի տնօրենի Քեն Մակկալումի զգուշացման հետ, որ AI-ն կարող է «փոխել թոփերը գործող կամ նույնիսկ նոր կենսաբանական զեցքի վրա»: Կոմիտեի նախագահ Լիամ Բիռնը ասաց, որ այս զգուշացման և կամընավոր ռեժիմի միջև հակադրությունը «բացատրում է ամեն ինչ, ինչ պետք է իմանալ»: Նա ցանկանում է, որ մինիստրները Մեծ Բրիտանիայի ապագա G20-ի նախագահությունը՝ Հարավային Կորեայի հետ միասին, օգտագործեն միջազգային կոնվենցիայի ներկայացման համագործակցություն, որը կլինի կախված ներկայիս սպիտակ տան վրա, և զգուշացրեց, որ «վտանգները մեր անվտանգության ռեժիմի վերահսկման ունակության վրա արագ են աճում».

Նյութերի աղբյուրներ: Wired Ai