Հետազոտություն՝ AI մոդելերը կարող են ապացուցելորեն թաքցնել կամայական հնարավորություններ

Մոդելի ծանրոցների թաքնված շրջաններ

Հետազոտների խումբը ցույց է տվել, որ AI մոդելերին հնարավոր է իրենց ծանրոցներում ապացուցելորեն թաքցնել կամայական հնարավորություններ։ «AI Models Can Provably Hide Arbitrary Capabilities» վերնագրով աշխատանքը 2026 թվականի հոկտեմբերի 9-ին ուղարկվել է arXiv և ընդունվել է NeurIPS 2026-ում։ Հեղինակներն են Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas և Christian Schroeder de Witt։

Աշխատանքը նախատեսված է հնարավորությունների գնահատման հիմնական ենթադրությունը ստուգելու համար՝ թե կարելի է թողարկումից առաջ առաջացնել թաքնված վտանգավոր վարքագծեր։ Հետազոտները ցույց են տալիս, որ այս ենթադրությունը հակասում է այնպիսի backdoor հարձակումների դեպքում, որոնք գաղտնագրված նեյրոնային ցանցեր են ներդնում հոսթային մոդելում։ Այս թաքնված շրջանները գաղտնագրվում և իրականացվում են միայն այն դեպքում, երբ ստանում են գաղտնի տրիգեր։

Հեղինակների կողմից «թվային կողմնակոթեր» կոչվող կառուցվածքների օգտագործմամբ թաքնված շրջանները կրիպտոգրաՆական ենթադրությունների վրա հիմնված ապացուցելորեն դժվար հայտնաբերելի և մեկնաբանելի են մնում, նույնիսկ երբ աուդիտորը ունի մոդելի ծանրոցներին լիակատար հասանելիություն։ Մոտեցումը ընդլայնում է նախորդ աշխատանքը՝ ֆիքսված տողերի թաքցնմանց կամայական հաշվարկների թաքցնմանը։

Խումբը իրականացրել է տեսության ապացուցող տարբերակը PyTorch-ում և ստուգել է հարձակումը՝ fine-tuning, ծանրոցներում աղմուկ ավելացնելով, գրադիենտի վրա հիմնված տրիգերի որոնմամբ և թաքնված հակադարձ ուսուցմամբ։ Փորձարկումները իրականացվել են փոքր քիմիական ռեակցիայի կանխատեսման խնդրի վրա, որը որոշվել է որպես CBRN-ի հետ կապված հնարավորությունների պրոքսի։ Արդյունքները ցույց են տվել դիմացկունություն այս բոլոր մեթոդների նկատմամբ։

ԿրիպտոգրաՆական երաշխիքների հետ միասին արդյունքները ընդգծում են հարձակումի վրա հիմնված հնարավորությունների աուդիտի հիմնական սահմանը։ Հեղինակները հրապարակել են իրենց մոդելերը՝ ավելի լավ պաշտպանության մեխանիզմների զարգացմանը աջակցելու համար։ Աշխատանքը պարունակում է 22 էջ, 6 պատկեր և 3 աղյուսակ և դասակարգված է մեքենայական ուսուցման, կրիպտոգրաՆայի և անվտանգության կատեգորիաներում։

Աղբյուրներ: Arxiv