Anthropic-ի Amodei-ն՝ բաց կշիռներով մոդելների արգելք չենք պահանջում

Ինչ է ասվում գրառման մեջ

Anthropic-ի գործադիր տնօրեն Dario Amodei-ն 2026 թվականի հուլիսի 27-ին հրապարակել է գրառում, որտեղ ներկայացնում է ընկերության դիրքորոշումը բաց կշիռներով մոդելների վերաբերյալ։ Դրան նախորդել էին հաղորդումներ, որ ԱՄՆ-ի որոշ պաշտոնյաներ քննարկում են արգելել ամերիկյան ընկերություններին օգտագործել չինական բաց կշիռներով մոդելները։ Շատ տեխնոլոգիական ընկերություններ ստորագրել են բաց կշիռներին աջակցող նամակը, իսկ որոշ մեկնաբաններ Anthropic-ին մեղադրել են սեփական բիզնեսը պաշտպանելու համար արգելք ցանկանալու մեջ։ Amodei-ն հերքում է դա. «Anthropic-ը երբեք չի կոչել բաց կշիռներով մոդելների արգելքի», գրում է նա և հավելում, որ վտանգավոր հնարավորություններ չունեցող մոդելները հանրային բարիք են։

Երկու մտահոգություն և ինչու արգելքները չեն լուծում դրանք

Amodei-ն ասում է, որ պրոտեկցիոնիստական արգելքները չեն անդրադառնա իր երկու գլխավոր ազգային անվտանգության մտահոգություններին, որոնք նա ներկայացրել էր վեց ամիս առաջ The Adolescence of Technology էսսեում։ Հիմնական մտահոգությունն այն է, որ ավտորիտար կառավարությունները՝ ոչ միայն Չինաստանի կոմունիստական կուսակցությունը, թեև նա նրան համարում է ամենաուժեղ սպառնալիքը, կկառուցեն ԱՄՆ-ից ավելի հզոր մոդելներ և կօգտագործեն դրանք մշտական ռազմական գերազանցության կամ սեփական ժողովրդի խորը ռեպրեսիայի համար։ Նրա կարծիքով՝ նշանակություն չունի՝ նման մոդելը կհրապարակվի բաց կշիռներով, թե ոչ. ամենավտանգավորը կարող է լինել գաղտնի մարզված և միայն Ժողովրդական-ազատագրական բանակին կամ պետական անվտանգության նախարարությանը տրված մոդելը։

Երկրորդ մտահոգությունը հզոր մոդելների օգտագործումն է կիբերհարձակումների կամ կենսաբանական հարձակումների համար, ինչպես նաև alignment-ի խնդիրները։ Բաց կշիռներով մոդելները կարող են ավելի բարձր ռիսկ կրել, քան փակերը, քանի որ դրանց վրա պաշտպանիչ մեխանիզմներ կիրառելն ու օգտագործումը վերահսկելը շատ դժվար է, իսկ հրապարակված կշիռները հնարավոր չէ հետ վերցնել։ Սակայն արգելքը այդ ռիսկը չի լուծում։ «Դա կպաշտպաներ ամերիկյան AI ընկերություններին մրցակցությունից, բայց դա երբեք չի եղել իմ նպատակը», գրում է նա։

Երեք քայլեր, որոնց աջակցում է

Փոխարենը Amodei-ն կրկնում է երեք քաղաքականություն, որոնց ինքն ու Anthropic-ը հետևողականորեն աջակցում են։ Առաջինը՝ դադարեցնել Չինաստանին հզոր չիպերի և դրանց արտադրության սարքավորումների վաճառքը և խոչընդոտել մաքսանենգությանը. Չինաստանի ներքին արտադրական հնարավորությունները սահմանափակ են, ուստի առանց ամերիկյան չիպերի այն չի կարող ԱՄՆ-ից ավելի հզոր մոդելներ կառուցել։ Երկրորդը՝ խոչընդոտել արդյունաբերական մասշտաբի distillation-ին, որը, նրա խոսքով, Չինաստանին թույլ է տալիս ավելի լավ մոդելներ կառուցել, քան թույլ է տալիս չիպերի պաշարը։ Երրորդը՝ բոլոր բավականաչափ հզոր մոդելների՝ բաց և փակ, պարտադիր անվտանգության թեստավորումը հրապարակումից առաջ. նա այդ գաղափարը կոնսենսուսին մոտ է համարում և ողջունում է ԱՄՆ վարչակազմի վերջին քայլերն այդ ուղղությամբ։

Բաց նամակի մասին

Amodei-ն համաձայն է բաց նամակի մեծ մասի հետ՝ բաց կշիռները ընդլայնում են մուտքը AI տնտեսություն, սակայն չի համաձայնում, որ դրանք անպայմանորեն հեշտացնում են պաշտպանիչ մեխանիզմների մշակումը կամ որ լայն հասանելիությունն ավելի շատ օգնում է պաշտպանվողներին, քան հարձակվողներին։ Նման հարցերը, գրում է նա, պետք է պատասխանվեն հրապարակումից առաջ խիստ թեստավորմամբ։