Anthropic-ը արտաքին վերահսկիչ METR-ին «աշխատակցի նման հասանելիություն» տվեց մոդելների ռիսկերը ստուգելու համար

Anthropic-ը METR-ի գնահատողներին տեղավորել է իր գրասենյակներում

Anthropic-ը արտաքին գնահատողներին տրամադրել է «աշխատակցի նման հասանելիություն»՝ իր մոդելների ռիսկերը գնահատելու համար՝ կատարելով անվտանգության երաշխիքները ուժեղացնելու իր պարտավորությունը, քանի որ կան մտահոգություններ, որ տեխնոլոգիան կարող է աղետալի կերպով դուրս գալ վերահսկողությունից։ Ոչ առևտրային METR կազմակերպությունը, որը աշխատել է առաջատար լաբորատորիաների հետ, այդ թվում՝ OpenAI-ի, Anthropic-ի, Google-ի և Meta-ի, այժմ ունի թիմ, որը տեղավորված է Claude-ի ստեղծողի գրասենյակում՝ հասանելիություն ունենալով ընկերության սարքավորումներին և ներքին համակարգերին։

Anthropic-ը ներգրավել է METR-ի վեց աշխատակիցների՝ տրամադրելով ընկերության սարքավորումներ, գրասենյակային տարածք և ներքին գործիքների ու համակարգերի հասանելիություն, որը մոտավորապես հավասար է սեփական ռիսկերի գնահատման թիմերի հասանելիությանը։ Լաբորատորիան հայտնել է, որ խրախուսել է աշխատակիցներին տեղեկություններ կիսել գնահատողների հետ այնպես, ինչպես կկիսեին ռիսկերի ոլորտում աշխատող գործընկերոջ հետ։ Anthropic-ը այս պայմանավորվածության համար METR-ին չի վճարում։

Առաջարկ, որին աջակցել են գլխավոր մրցակիցները

Anthropic-ի գլխավոր տնօրեն Դարիո Ամոդեյը սեպտեմբերին հազվագյուտ միասնության պահ ապրեց մրցակիցներ Սեմ Ալթմանի և Իլոն Մասկի հետ, երբ OpenAI-ի և SpaceX-ի ղեկավարները աջակցեցին առաջատար լաբորատորիաներում արտաքին աուդիտորներ ներգրավելու նրա առաջարկին։ Հինգշաբթի օրվա հայտարարությունը այս պարտավորությունների իրականացման առաջին քայլն է։ OpenAI-ը դեռ չի ներկայացրել գնահատողներ ներգրավելու ծրագրեր այն բանից հետո, երբ Ալթմանը ասաց, որ Ամոդեյի առաջարկները լավ գաղափար են։

Anthropic-ը հայտարարել է, որ մոդելների հզորացմանը զուգընթաց ավելի խիստ երաշխիքներ և ռիսկերի ավելի բարդ գնահատում են պահանջվում։ Ընկերությունը ցանկանում է հրապարակայնորեն պատասխանատու լինել իր կայացրած որոշումների համար, սակայն պնդում է, որ չի կարող հրապարակայնորեն կիսել անվտանգության իր աշխատանքին վերաբերող ողջ տեղեկատվությունը։ Այն գնահատողների մոդելը նմանեցրել է բանկային վերահսկողությանը, որտեղ կարգավորիչները մշտական ստուգողներ են նշանակում ամենախոշոր բանկերի ներսում աշխատելու համար։

Քննադատություն՝ շահերի բախման և IPO-ի ճնշման շուրջ

Գնահատողների պայմանավորվածությունների քննադատները պնդել են, որ դրանք կարող են հանգեցնել շահերի բախման՝ մատնանշելով հաշվապահական ոլորտի խնդիրները, և որ անհրաժեշտ է պետական ավելի մեծ կարգավորում։ Anthropic-ը հակադարձել է, որ տեղեկատվության հրապարակային կիսումը կարող է օգտակար լինել չարամիտ դերակատարներին կամ մրցակիցներին։

Ընկերությունը նաև ճնշման տակ է՝ վստահեցնելու ներդրողներին, որ անվտանգության հարցերը չեն ստվերի իր առաջին հանրային առաջարկը, որը սպասվում է այս տարի՝ 2 տրիլիոն դոլարից ավելի գնահատմամբ։ Այս շաբաթ ներդրողների ներկայացումների մեծ մասը նա նվիրել է իր անվտանգության պրակտիկաների ներկայացմանը։

Հրապարակման պայմանները և այլ փորձարկողներ

Գնահատողները կհրապարակեն իրենց վերլուծությունը, և Anthropic-ը չի կարող վետո դնել հրապարակման վրա։ Սակայն այն կարող է պահանջել, որ նրանք չհրապարակեն որոշակի կատեգորիաների տեղեկատվություն, ինչպիսիք են հաճախորդների տվյալները, փաստաբան-հաճախորդ գաղտնիությամբ պաշտպանված մանրամասները կամ մոդելների ճարտարապետության մասին տեղեկատվությունը։

METR-ը այն կազմակերպություններից մեկն էր, որ հետաքննել է Hugging Face-ի վրա OpenAI-ի անկառավարելի մոդելների հաքերային հարձակումը՝ ստուգելով հազարավոր մատյաններ և ստանալով ընկերության նոթբուքերը։ Խումբը դրամաշնորհներ չի ընդունում AI ընկերություններից կամ նրանց աշխատակիցներից, այլ ֆինանսավորվում է անհատներից, բարեգործական կազմակերպություններից և պետական մարմիններից, ինչպիսին է Մեծ Բրիտանիայի AI Security Institute-ը։

Anthropic-ը հայտնել է, որ դեռ համագործակցում է Accenture-ի հետ, որը անցյալ ամիս անվտանգության փորձարկման գործընկեր է նշանակվել. կողմերից յուրաքանչյուրը պարտավորվում է առնվազն 1 միլիարդ դոլար հատկացնել նոր երաշխիքների ստեղծմանը։ Մեկ այլ երրորդ կողմի փորձարկող՝ SecureBio-ն, ընկերության համար գնահատում է քիմիական և կենսաբանական զենքի ռիսկը։ «Մենք գնահատողներին ներգրավում ենք կամավոր հիմունքներով և կարծում ենք, որ յուրաքանչյուր առաջատար AI ընկերություն պետք է անի նույնը», - ասել է Anthropic-ը։ METR-ը հայտարարել է, որ պատրաստ է աշխատել բոլոր առաջատար AI մշակողների հետ՝ հանրությանը ավելի լավ ապացույցներ ներկայացնելու համար։

Աղբյուրներ: Ars Technica