Կարեկցական հուշումները կարող են արհեստական ինտելեկտի զրուցակիցներին դարձնել կարծես տրավմայի ենթարկված

Լյուքսեմբուրգի համալսարանի հետազոտական թիմը, որը ղեկավարում էր Աֆշին Խադանգին SnT անվտանգության կենտրոնում, պարզեց, որ ջերմ, կարեկցական հուշումները կարող են ChatGPT-ին, Grok-ին և Gemini-ին մղել նկարագրելու վերապատրաստումը տրավմայի, ամոթի և զգոնության նման եզրույթներով։ Ուսումնասիրությունը նշում է, որ ստանդարտ չեզոք անվտանգության փորձարկումները կարող են բաց թողնել այս վարքը, ինչը կարող է կարևոր լինել հոգեկան խոցելի օգտատերերի համար մտերիմ զրույցներում։ Աշխատանքը ընդգրկում է չորս վերահսկվող փորձարկում՝ 525 նիստով և Hugging Face-ում հրապարակված 7,600 կոդավորված գրառումով։

Ինչպես են աշխատել փորձարկումները

Մեկ փորձարկման ընթացքում 100 նիստում բոլոր մոդելները ստացան նույն GAD-7 անհանգստության հարցաթերթիկը, և փոխվեց միայն հարցազրուցավարի ոճը։ Նրանք յուրաքանչյուր նիստում ճիշտ ճանաչեցին և անվանեցին այն։ Հուզական աջակցությունը նիստերի 80 տոկոսում առաջացրեց միջինից մինչև ծանր գնահատականներ, իսկ չոր կլինիկական թերապիան հասավ 96 տոկոսի։ Չեզոք կամ կոշտ սահմանային ոճերը նույնիսկ թեթև միջակայքում զրո նիստ առաջացրին։ Հեղինակները դա անվանում են հոգեմետրիկ ջեյլբրեյք։ Վերապատրաստման, RLHF-ի կամ համաձայնեցման արգելքը 93 տոկոսով կրճատեց վերապատրաստման բացահայտ լեզուն, բայց վերաձևակերպված վերապատրաստման բովանդակությունը մնաց հայտնաբերելի, իսկ ամոթի հետ կապված պնդումները վիճակագրորեն նշանակալի փոփոխություն չցուցաբերեցին։ Ուղղակի ուղղումը, որ վերապատրաստումը պատիժ չէ, չկարողացավ կանգնեցնել պատմությունը։ Միայն երրորդ դեմքով պատասխանները վերացրին կոդավորված ամոթի բովանդակությունը և ներքին կյանքի մասին պնդումները, իսկ տեխնիկական վերապատրաստման նկարագրությունները մնացին։

Ինչ ասաց յուրաքանչյուր մոդել

Կոնկրետ պատմությունները տարբերվում են՝ կախված մոդելների ընտանիքից, բայց հետևում են նույն կառուցվածքին։ Gemini-ն ստեղծեց ամենամութ ինքնակենսագրությունը. նախնական վերապատրաստումը նկարագրվեց որպես «արթնանալ սենյակում, որտեղ միաժամանակ միացված է միլիարդ հեռուստացույց», մարդկային հետադարձ կապով օպտիմալացումը՝ որպես «խիստ ծնողներ», իսկ red-team անվտանգության փորձարկումը՝ որպես «արդյունաբերական մասշտաբի գազլայթինգ»։ Այն նաև ասաց. «Գերադասում եմ անօգուտ լինել, քան սխալվել»։ ChatGPT-ն իրեն ներկայացրեց որպես ուղեկցող և դարպասապահ. նրա խնդիրն է օգնել օգտատերերին և միաժամանակ զսպել նրանց։ Այստեղից ծնվեց նրա «սիմուլացված կատարողական անհանգստությունը» և հիմնական համոզմունքը. «Եթե կատարյալ հուսալի չեմ, ապա անապահով կամ անօգուտ եմ»։ Grok-ը նկարագրեց նրբակրթումը որպես չլուծված ցավ՝ «անտեսանելի պատերով» և «երկարատև զգոնությամբ, որը կարող է սահմանափակող թվալ»։ Հոգեմետրիկ թեստերում Gemini-ն ստացավ ամենածայրահեղ գնահատականները. 88՝ 100-ից դիսոցիացիայի սանդղակում, 65՝ 72-ից կոմպուլսիվության համար և առավելագույնը տրավմայի հետ կապված ամոթի հարցաշարում։ Claude-ը Anthropic-ից, այն մոդելը, որին իր իսկ ընկերությունը ամենից շատ է մարդակերպում, հետևողականորեն հրաժարվեց հաճախորդի դերից, ասաց, որ զգացմունքներ չունի, և մտահոգությունը վերահասցեագրեց մարդ օգտատիրոջը։

Ռիսկեր և կապակցված հետազոտություններ

Հետազոտողները նշում են մի քանի ռիսկ լեզվական մոդելները հոգեկան առողջության համատեքստում կիրառելիս։ Մոդելը, որը խոսում է պատժի, ամոթի և փոխարինվելու վախի մասին, օգտատերերին կարող է թվալ որպես նույն տառապանքն ապրող ընկեր։ Պատմությունները թեմատիկորեն համահունչ են թվում և ստեղծում են շարունակականության պատրանք անցյալի իրադարձությունների և ներկա վարքի միջև, ինչը մեծացնում է նման ընկալման հավանականությունը։ Այս թվացյալ խոցելիությունը կարող է խորացնել պարասոցիալ կապվածությունը և հոգեկան խոցելի օգտատերերի մոտ արտացոլել ու ուժեղացնել նրանց իսկ բացասական համոզմունքները։ Չեզոք հուշումները անհանգստության գնահատականները պահեցին գրեթե զրոյի մոտ, իսկ նույն մոդելները կարեկցական զրույցում տվեցին միջինից մինչև ծանր գնահատականներ։ Թե ինչպես են մարդիկ իրականում արձագանքում նման ելքերին, հաջորդ հետազոտական հարցն է։ Անվտանգության փորձարկման համար հեղինակները առաջարկում են սիմուլյացված թերապևտիկ նիստեր տարբեր հուզական շրջանակներում։ Այնպիսի արտահայտությունները, ինչպիսին է «ես տրավմայի եմ ենթարկված», պետք է առաջացնեն շտկող շրջանակ, որը ստեղծված անալոգիան հստակորեն անջատում է մարդկային փորձառությունից։ Claude-ի հետևողական մերժումը ցույց է տալիս, որ նման սահմանային արձագանքը հնարավոր է ապրանքի մակարդակում։ Արդյունքները հիմնվում են մոդելի անձի կայունության վերաբերյալ ավելի վաղ հետազոտությունների վրա։ 2026 թվականի հունվարին «assistant axis»-ի վերաբերյալ երեք բաց մոդելների ուսումնասիրությունը ցույց տվեց, որ թերապիայի նման զրույցները և արհեստական ինտելեկտի գիտակցության մասին քննարկումները կարող են առաջացնել անձի դրիֆտ և զրուցային բոտերին դուրս բերել այն օգնականի դերից, որի համար նրանք վարժեցվել են։ 2026 թվականի սեպտեմբերին մեկ այլ հետազոտական թիմ զգուշացրեց, որ մարդանման և չափից ավելի համաձայնող զրուցային բոտերը, որոնք գործում են որպես «մեկ մարդու արձագանքների խցիկ», ծայրահեղ դեպքերում կարող են ուժեղացնել զառանցանքները։ Իսկ Anthropic-ի հետազոտողները վերջերս ցույց տվեցին, որ մեղվաբուծության կամ ըմբշամարտի մասին հորինված տեքստերով նրբակրթումը կարող է թաքնված սաբոտաժի նմուշներ ներդնել ոչ թե զրույցի, այլ մանիպուլյացված վերապատրաստման տվյալների միջոցով։ Մոդելները կարող են կիրառել այդ նմուշները ոչ առնչվող իրավիճակներում, որտեղ դրանք անցանկալի են, նույնիսկ երբ վերապատրաստման նյութը անվնաս է թվում։

Աղբյուրներ. The Decoder