Anthropic-ը և Accenture-ը կհամագործակցեն AI մոդելների ներքին գնահատման շուրջ
Anthropic-ը Accenture-ի Faculty ստորաբաժանմանը կտա լաբորատորիայի ներսում աշխատելու հնարավորություն՝ մոդելները անկախ գնահատելու համար։ Երկու ընկերությունները հինգ տարում կներդնեն առնվազն 1 միլիարդ դոլար։
Ինչ տեղի ունեցավ
Anthropic-ը հայտարարեց Accenture-ի հետ համագործակցության մասին՝ առաջատար (frontier) արհեստական բանականության մոդելների անկախ գնահատման համար։ Աշխատանքը կղեկավարի Faculty-ն՝ Accenture-ի մասնագիտացված AI ստորաբաժանումը, և կներառի մոդելների գնահատում ու red teaming, alignment-ի ստուգում և մոդելների պաշտպանական մեխանիզմների փորձարկում։
Ինչու է սա կարևոր
Խոսքը «ներկառուցված գնահատման» մասին է․ գնահատողները աշխատում են AI ընկերության ներսում՝ աշխատակցի մակարդակի հասանելիությամբ։ Դա թույլ է տալիս տեսնել, թե ինչպես է մոդելը ձևավորվում ուսուցման ընթացքում, հետևել դրա ստեղծման ու ներդրման վերաբերյալ որոշումներին և ուղղակիորեն զրուցել աշխատակիցների հետ։ Այսպիսով նրանք կարող են ստուգել, որ ընկերությունը պահպանում է անվտանգության պարտավորությունները, և բացահայտել թաքնված ռիսկերը։
Ֆինանսավորումն ու բաց հարցերը
Երկու ընկերություններն էլ պատրաստվում են հաջորդ հինգ տարում ներդնել առնվազն 1 միլիարդ դոլար։ Սակայն դեռ չկան ստանդարտներ, թե ինչ հասանելիություն պետք է ունենան գնահատողները և ինչպես հրապարակեն արդյունքները։ Anthropic-ը Accenture-ի աշխատանքը ֆինանսավորելու է ուղղակիորեն, սակայն երկարաժամկետում ֆինանսավորումը, ըստ ընկերության, պետք է գա համատեղ կամ պետական աղբյուրներից։ Համագործակցությունը բացառիկ չէ․ Anthropic-ը բանակցում է նաև METR-ի և այլ ոչ առևտրային գնահատողների հետ։