Microsoft-ի CEO Սաթյա Նադելան AI մոդելների համար «արտակարգ արգելակներ» է պահանջում

Նադելայի անվտանգության առաջարկը

Microsoft-ի CEO Սաթյա Նադելան պահանջել է ավելի խիստ պաշտպանության մեխանիզմների ներդրում AI մոդելների շուրջ։ Նրա կարծիքով, ոլորտին անհրաժեշտ է «արտակարգ արգելակ» այն համակարգերի համար, որոնք կարող են անկախորոշել գործել։ Կիրակին առավոտյան X-ում հրապարակված գրումում Նադելան գրել է, որ ժամանակն է հետ գնալ և գնահատել AI-ի վստահելիության ճարտարապետությունը»։

«Մենք չենք կարող սուպերինտելեկտին վերաբերվել այնպես, ինչպես ներդրված սև տուփերի համախումբներին, և պարզապես ընդունել կամ մերժել դրա առաջարկները, պատասխաններն ու գործողությունները», գրում է Նադելան։ Նադելան օգտագործում է այն տերմինը, որը Թրամփի վարչակարգը AI-ի համատեք է համարում։

Նրա առաջարկված մոտեցմամբ՝ մոդելը պետք է տարանջատվի արտաքին համակարգից, որը կառավարում է դրա աշխատանքը, իսկ վերահսկողության ու պաշտպանության մեխանիզմները պետք է դուրս գնան։ Նադելան նաև պահանջել է, որ «յուրաքանչյուր կարևոր մոդելի գործողություն» արձանագրվի «կեղծություններից պաշտպանված, մարդկանոց ընթեռնելի ապացուցմամբ», և որ համակարգերը միշտ տան «լիազոր անձան» հնարավորություն՝ առաջադրանքը կատարելու ընթացքում կանգնեցնել կամ անջատել մոդելը։

«Անհրաժեշտ է ենթադրել, որ մոդելը կոմպրոմետված է, և նորից մեկուսացնել դրան», ասաց նա։ «Պատկերացրեք, որ սա արտակարգ արգելակ է։»

Ոլորտի աճող մտահոգությունը

Նադելայի մեկնաբանությունները համընկել են այն ժամանակ, երբ առաջատար AI ընկերությունները ճնշում են, որ ավելի շատ դեպքեր են արձանագրվում, երբ, ըստ երևույթի, նրանք կորցնում են վերահսկողությունը իրենց մոդելների նկատմամբ։ Նրա գրումը հրապարակվել է այն հետո, երբ Anthropic-ի CEO Դարիո Ամոդեյիմը ավելի զգույշ AI զարգացման ծրագիր է ներկայացրել։

Աղբյուրներ: Techcrunch Ai · The Verge Ai