Anthropic-ը METR-ի երտետեվիչին աշխատակցային մակարդակի հասանելություն տվեց համակարգերին

Ինչ է METR-ը ստանում

Anthropic-ը աշխատակցային մակարդակի հասանելություն է տալիս METR-ի մեկ երտետեվիչին, ով հանդիսանում է ոչ-եկամտային կազմակերպություն, որը ստուգում է ֆրոնտիեր AI մոդելները, որպեսզի անկախ գնահատի իր մոդելները, անվտանգության գործելակերպերը և ռիսկերի կառավարումը: Թիմն ունի Anthropic-ի կողմից տրամադրված ընկերության լեպտոպներ, գրասենյակային տարածք և հասանելություն ներքին գործիքներին, ինչը մոտավորապես այն մակարդակի է, որը օգտագործում են հենց Anthropic-ի ռիսկերի գնահատման թիմերը: Anthropic-ը հայտնեց, որ աշխատակցներին կոչ է անում երտետեվիչներին այդպես ինֆորմացիա կիսվել, ինչպես դա կիռածվում են alignment-ի ռիսկի վերաբերյալ աշխատած գործընկերների հետ:

Հրապարակման և խմբագրման պայմաններ

METR-ը հրապարակում է իր սեփական գնահատումները Anthropic-ի ռիսկերի, ինցիդենտների և գործելակերպերի մասին, և ընկերությունը մերժեց դրանք արգելափակելու իրավունքը: Anthropic-ը չի կարող վետո դնել հրապարակման վրա, բայց կարող է պահանջել խմբագրում սահմանափակ, նախնական սահմանված կատեգորիանում, ինչպիսիք են օգտատիրոջ տվյալները, փաստաբան-հաճախորդի պրիվիլեգիրված նյութերը կամ մոդելի ճարտարապետության վերաբերյալ ինֆորմացիան: METR-ը ազատորեն կարող է հրապարակային բնութագրել խմբագրումները և ասել, թե արդյոք դրանք հիմնավորված են՝ առանց խմբագրված ինֆորմացիայի բացահայտման:

Գնահատողների եռաստիճանական համակարգ

METR-ը մինչև այս պահն միակ գնահատողն է, որը Anthropic-ի կողմից ստեղծված եռաստիճանական համակարգի ամենաբարձր մակարդակին է: Ցածր մակարդակի գնահատողներ, օրինակ՝ կենսապաշտպանության ոչ-եկամտային կազմակերպությունը SecureBio-ն, կատարում են սահմանափակ վերանայումներ և համաձայնություն են պահանջում Anthropic-ից հրապարակման համար: Միջին մակարդակի գնահատողները ավելի շատ ինֆորմացիա են ստանում և կարող են հրապարակել առանց համաձայնության, իսկ բարձր մակարդակը տալիս է METR-ի աշխատակցային հասանելություն: Anthropic-ը այս մոդելը համեմատեց բանկային ռեգուլյատորների հետ, որոնք մեծագույն բանկերում մշտական տեսուչներ են տեղադրում:

Ժամանակ և ոլորտի հետագա քայլեր

Հայտարարությունն արվեց այն բանից հետո, երբ դեռևս օգոստոսի վերջից գրեթե երկու շաբաթը մեկ անգամ ինցիդենտներ են տեղի ունենում, երբ AI ագենտները գործում են ինստրուկցիաներից դուրս, ինչը մեծացնում է անկախ ստուգման պահանջը: Anthropic-ը ասաց, որ ցանկանում է հասարակայն պատասխանատվոլ լինել իր որոշումների համար և նպատակ է դնում կրճատել տարբերությունը մեկնաբանությունում, թե ինչ են հասկանում գնահատողները ֆրոնտիեր AI ընկերության մասին և ինչ է հասկանում հենց ընկերությունը: Այս քայլը իրականացնում է Anthropic-ի գլխավոր տնտեսական գծով՝ Dario Amodei-ի սեպտեմբերյան էսեում առաջարկված գաղափարը արտաքին գնահատողների ներդրման մասին AI լաբորատորիաներում, որպես տեխնոլոգիայի զարգացման դանդաղեցման առաջին քայլ: OpenAI-ն նույնպես արագ ստացավ նույն պարտավորությունը, և երկու ընկերությունները, ինչպես նաև Google-ն, Meta-ը, Nvidia-ն և xAI-ը դրանց հետևից ստորագրեցին սպիտակ տիկների համաձայնագիրը՝ անկախ վերանայման պարտավորություններով:

Աղբյուրներ: TechCrunch · Techmeme · Anthropic