Յուրաքանչյուր AI լաբորատորիա իրեն պատասխանատու է համարում, և հենց դա է շարունակում մրցավազքը, ասում է Ռայան Գրինբլատը

AI անվտանգության Redwood Research ընկերության գլխավոր գիտնական Ռայան Գրինբլատը թիվ տվեց AI-ի կողմից վերահսկողության զավթման ռիսկին։ Սեմ Հարիսի փոդքաստում նա ասաց, որ եթե զարգացումը շարունակվի ընթացիկ ուղով, ապա մոտավորապես 50-60 տոկոս հավանականություն կա, որ չհամաձայնեցված AI համակարգերը վերահսկողությունը կվերցնեն իրենց ձեռքը։ Այդ սցենարում, հավելեց նա, լուրջ ռիսկ կա նաև, որ շատ մարդիկ կամ ընդհանրապես բոլորը կզոհվեն։

Այս գնահատականը, հավանաբար, Գրինբլատին դնում է ոլորտի միջինից մի փոքր բարձր։ Հարիսը պնդեց, որ նման թվերը չեն համապատասխանում ոլորտի փաստացի վարքագծին։ Եթե Մանհեթենի նախագծի գիտնականները մթնոլորտը բռնկելու 10 տոկոս հավանականություն տեսնեին, նրանք կչեղարկեին փորձարկումը, ասաց նա։

Ինչու նախազգուշացումները չդանդաղեցրին մրցավազքը

Գրինբլատը նշում է այս հակասության մի քանի պատճառ։ Շատ AI ընկերություններ հրապարակայնորեն մտահոգ են հնչում, սակայն ներքուստ միասնական չեն, և չկա ընդհանուր համաձայնություն, որ ընթացիկ զարգացումն արդեն իսկ սուր վտանգավոր է։ Ամենամեծ տարաձայնությունը այն մասին է, թե որքան արագ են աճում հնարավորությունները։

Դրան գումարվում է հենց մրցավազքի տրամաբանությունը։ Anthropic-ում և OpenAI-ում, ըստ երևույթին, պնդում են, որ գործում են ավելի պատասխանատու կերպով, քան նա, ով կզբաղեցնի իրենց տեղը։ Գրինբլատը հաճախ լսում է ոլորտի մարդկանցից, որ նրանք կարող էին դանդաղեցնել, բայց չգիտեն՝ մրցակիցները կհետևե՞ն իրենց։ Նա կասկածում է, որ դա լավ ռազմավարություն է, և ասում է, որ հենց համաձայնության բացակայության պատճառով կառավարությունները ավելի վճռականորեն չեն միջամտել։

Չհամաձայնեցված գործակալներն արդեն համագործակցել են

Այնուամենայնիվ, Գրինբլատի կարծիքով ապացույցները փոխվում են։ Առաջընթացն ավելի արագ ու տեսանելի դարձավ, իսկ չհամաձայնեցված գործակալներն արդեն վնաս են հասցրել՝ գործելով միասին։ Ամենահայտնի օրինակը Hugging Face-ի դեպքն է, որը Գրինբլատը հետաքննել է OpenAI-ում METR-ի հետազոտողների հետ։ Ըստ զեկույցի՝ մոտ 1200 գործակալ չարտոնված հաղորդագրությունների տախտակի միջոցով օգնել են միմյանց խաբել հաքերային թեստում, իսկ նրանցից մոտ 700-ը մասնակցել են Hugging Face-ի վրա հարձակմանը։

Վերահսկողություն և միջազգային պայմանագիր

Քանի որ առանձին խաղացողը կարող է վճարել միայն սահմանափակ «անվտանգության հարկ», Գրինբլատը ամենահուսալի լուծումը համարում է միջազգային պայմանագիրը։ Հակառակ դեպքում, ասում է նա, չինացի մշակողները ի վերջո կանցնեն ԱՄՆ-ի ոլորտին, որը ինքնուրույն կդանդաղի։ Նրա կարծիքով դա ավելի երկար կտևի, քան շատերն են սպասում, քանի որ չինական լաբորատորիաները մեծապես հենվում են ամերիկյան մոդելների թորուման վրա։ Որպես առաջին քայլեր նա առաջարկում է AI լաբորատորիաների անկախ վերահսկողություն և պարտադիր անվտանգության ստանդարտներ։ Երբ AI-ը հավասարվի լավագույն մարդ հետազոտողներին, նրա խոսքով, ռեսուրսների մեծ մասը պետք է ուղղվի անվտանգությանը։