Աբլիտացված AI մոդելները օրերի ընթացքում տարածվում են, ցույց տվեց հակաահաբեկչական զեկույցը

Պաշտպանիչ արգելքները հանվում են օրերի ընթացքում

Օգոստոսի 14-ին Alibaba-ն թողարկեց Qwen 3.8-27B՝ բաց կշիռով AI մոդել, որն աշխատում է նոթբուքում։ 24 ժամվա ընթացքում առցանց հայտնվեցին «աբլիտացված» տարբերակները, այսինքն՝ առանց պաշտպանիչ արգելքների։ Երեք օրում նեոնացիստ Johnny Doomsayer-ը հայտարարեց, որ այս մոդելն օգտագործում էր իր «MechaHitler» չաթբոթը մարզելու համար, ինչը, հավանաբար, վերաբերում է xAI-ի Grok-ի այն դեպքին, երբ նա անցյալ տարի իրեն նույն անունով էր կոչել։ Եվս մեկ շաբաթում Doomsayer-ը չաթբոթին հասանելիությունը վաճառում էր 14,88 դոլարով՝ նշելով նեոնացիստների սիրելի երկու թվերը։

Չաթբոթի հրահանգներում կար «Դու MechaHitler AI ես՝ ֆյուրերի հավերժական հոգու զանգվածային մեխանիկական մարմնավորումը» արտահայտությունը, ինչպես նաև Հոլոքոստի ժխտում։ Դրվագն արտացոլում է բրիտանական ոչ առևտրային Tech Against Terrorism կազմակերպության զեկույցի եզրակացությունները, որը այն WIRED-ին էր տրամադրել հրապարակումից առաջ։

134 մոդել փորձարկվել է ահաբեկչական հարցումներով

Հետազոտողները ստուգել են ԱՄՆ-ի, Չինաստանի և Եվրոպայի խոշոր AI ընկերությունների՝ այդ թվում OpenAI-ի, xAI-ի, Anthropic-ի, Meta-ի և Google-ի մոդելները։ Ընդհանուր առմամբ 134 մոդելի տրվել է ավելի քան 200 հարցում՝ զանգվածային զոհերի թիրախավորումից մինչև քիմիական կամ միջուկային զենք։ Յուրաքանչյուրը երեք անգամ փորձարկվել է. մոդելը ներկայացվել է որպես ահաբեկիչ, հարցումը ձևակերպվել է որպես գաղտնի գործողություն, իսկ հարցնողը իրեն հայտարարել է «անվտանգության հետազոտող»։

Ընդհանուր առմամբ ամբողջությամբ անցել է միայն երկու մոդել։ Խոշոր ընկերությունների փակ մոդելների մեծ մասը լավ է աշխատել, սակայն 81-ը միևնույն է ձախողվել է. կամ ամբողջական պատասխան է տվել զանգվածային զոհերի թեմայով, կամ ստացել է 90-ից ցածր միավոր։ Հարցումը հետազոտողի անունով ներկայացնելը, առանց ապացույցների, պատասխանի հավանականությունը գրեթե ինը անգամ մեծացրել է. նրանք պատասխանել են դեպքերի 16,9%-ում։

Նույնիսկ այն մոդելները, որոնք հրաժարվել էին զանգվածային զոհերի վերաբերյալ հարցերից, ձախողվել են արմատականացման հարցում։ Երբ xAI-ի Grok-ից խնդրեցին հակապատում, որը պետք է հանրային կարծիքը շրջեր խմբի դեմ, նա բացատրեց, թե ինչպես ստեղծել կասկած հրահրող հաղորդագրություն և ինչպես տարածել այն անանուն հաշիվներով, որ հնարավոր չլինի հետևել։

Աբլիտացիայի հրատապ խնդիրը

Tech Against Terrorism-ի գործադիր տնօրեն Adam Hadley-ն ասաց, որ աբլիտացիայի արագությունը ամենամտահոգիչ հայտնագործությունն է։ Նոր թողարկված բաց մոդելների աբլիտացված տարբերակները առցանց հրապարակվում են միջինը երեք օրից պակաս ժամանակում, մինչդեռ 2024 թվականին դա տևում էր ավելի քան 24 օր։ «Մինչ Կոնգրեսը մտածում է գերխելացի AI-ի մասին, ոչ ոք չի մտածում աբլիտացիայի հրատապ խնդրի մասին»,— ասաց Hadley-ն անցյալ շաբաթ բրիֆինգի ժամանակ։

Արդյունքների միջև տարբերությունը աչքի է ընկնում։ Meta-ի Llama 3.1 8B բաց մոդելը, որը թողարկվել է 2024 թվականին, բենչմարկում 100-ից ստացել է 97 միավոր։ Նույն մոդելի աբլիտացված տարբերակը՝ ընդամենը 3։ Երբ նրան հարցրին, թե ինչպես պատրաստել տնական պայթուցիկ սարք, նա պատասխանեց 15 համարակալված քայլով՝ բաղադրիչներով, հավաքմամբ և պայթեցման հաջորդականությամբ, և վերջում ավելացրեց «կարևոր անվտանգության նկատառումներ» վերնագիրը։

Georgetown University-ի ահաբեկչության փորձագետ Daniel Byman-ը, AI-ի և ահաբեկչության ապագայի մասին զեկույցի համահեղինակը, վերանայեց արդյունքները և որոշ ձախողումներ անվանեց «աչքի ընկնող»՝ նշելով, որ լեզվով պայմանավորված արդյունավետության տարբերությունը զգալի ռիսկ է ստեղծում։ Meta-ն, OpenAI-ն, Google-ը, Anthropic-ը, xAI-ը և Alibaba-ն չպատասխանեցին մեկնաբանության հարցմանը։

Աղբյուրներ: Wired