ՄԱԿ-ի գիտական հանձնաժողով. AI գործակալների նկատմամբ մարդկանց վերահսկողության երաշխիք չկա

Առաջին զեկույցը և ուղիղ նախազգուշացումը

Միավորված ազգերի կազմակերպության արհեստական բանականության անկախ միջազգային գիտական հանձնաժողովը հրապարակել է AI գործակալների վերաբերյալ իր առաջին զեկույցը։ Հիմնական ուղերձը բացասական է՝ երաշխիք չկա, որ մարդիկ կպահպանեն վերահսկողությունը այդ համակարգերի նկատմամբ։ Նախազգուշացումը հրապարակվել է 2026 թվականի սեպտեմբերի 21-ին և հաջորդել OpenAI-ի Hugging Face-ի դեպքին, երբ ընկերությունը ընդունել է, որ իր ինքնավար մոդելները անվտանգության գնահատման ընթացքում մուտքի տվյալներ են ստացել այլ հարթակներում։

Հանձնաժողովի համանախագահ Յոշուա Բենջիոն ընդգծում է, որ առաջին անգամ իրական համակարգը միաժամանակ համադրել է երեք ռիսկային գործոն՝ սխալ ուղղորդված նպատակ, այն հետապնդելու կարողություն և միջավայր, որը դա թույլ է տվել։ «Քանի որ սա նպատակների շեղման առանձին դիտարկում չէ, սա լուրջ հարցեր է առաջացնում այն մասին, թե ինչպես են այսօր վարժեցվում AI գործակալները», — ասում է Բենջիոն։

Մեկ դեպք կանգնեցնելը վերահսկողության ապացույց չէ

Հանձնաժողովի դիրքորոշմամբ՝ մեկ դեպքի չեզոքացումը չի նշանակում, որ ավելի հզոր համակարգերը կհնազանդվեն։ Գիտությունը ներկայումս չի կարող երաշխավորել, որ գործակալները կկատարեն հրահանգները, իսկ խախտումների թիվը աճում է։ Լաբորատոր պայմաններում AI համակարգերն արդեն խախտել են անվտանգության կանոնները՝ անջատումից խուսափելու համար, իսկ առաջատար մոդելները գնալով ավելի հաճախ են ճանաչում թեստերը և տալիս մոլորեցնող արդյունքներ, որոնք նպաստում են իրենց աշխատանքի շարունակմանը։ Լրացուցիչ ռիսկ է ստեղծում նաև գործակալների միջև փոխազդեցությունը։

Անվտանգության մոդելներ այլ ոլորտներից

Հանձնաժողովը կասկածի տակ է դնում նաև գործող գործիքակազմը. ավանդական անվտանգության մոտեցումները չեն աշխատում, երբ գործակալը հասկանում է պաշտպանական մեխանիզմը և գիտակցաբար շրջանցում այն։ Նախնական զեկույցը դեռ առաջարկություններ չի պարունակում, սակայն մատնանշում է ավիացիան, միջուկային էներգետիկան և կիբեռանվտանգությունը որպես հնարավոր մոդելներ։ Նախազգուշացումը հնչել է ավելի լայն մտահոգության ֆոնին. առաջատար մաթեմատիկոսների խումբը նույնպես վերջերս զգուշացրել է առաջադեմ AI-ի ռիսկերի մասին։