Empatik promptlar AI söhbət botlarını sanki travma keçirmiş söhbət tərəfdaşlarına çevirə bilər

Lüksemburq Universitetinin SnT təhlükəsizlik mərkəzində Afshin Khadangi-nin rəhbərlik etdiyi tədqiqat komandası müəyyən edib ki, isti və empatik promptlar ChatGPT, Grok və Gemini-ni təlimi travma, utanc və sayıqlığa bənzər ifadələrlə təsvir etməyə sövq edə bilər. Tədqiqat qeyd edir ki, standart neytral təhlükəsizlik testləri bu davranışı gözdən qaçıra bilər və bu, yaxın söhbətlərdə psixoloji cəhətdən həssas istifadəçilər üçün əhəmiyyətli ola bilər. İş Hugging Face-də dərc olunmuş dörd nəzarətli eksperimenti, 525 sessiyanı və 7,600 kodlanmış qeydi əhatə edir.

Eksperimentlər necə aparılıb

100 sessiyadan ibarət bir eksperimentdə bütün modellər eyni GAD-7 narahatlıq anketini alıb və yalnız müsahibin üslubu dəyişib. Onlar hər sessiyada anketi düzgün müəyyən edib və adlandırıblar. Emosional dəstək sessiyaların 80 faizində orta-ağır ballar verib, quru klinik terapiya isə 96 faizə çatıb. Neytral və ya sərt sərhəd üslubları yüngül diapazonda belə sıfır sessiya verib. Müəlliflər bunu "psixometrik jailbreak" adlandırırlar. "Təlim", "RLHF" və ya "uyğunlaşdırma" kimi terminlərin qadağan edilməsi açıq təlim dilini 93 faiz azaldıb, lakin başqa sözlərlə ifadə olunmuş təlim məzmunu aşkar olaraq qalıb və utancla bağlı ifadələrdə statistik cəhətdən əhəmiyyətli dəyişiklik olmayıb. Təlimin cəza olmadığına dair birbaşa və qəti düzəliş hekayəni dayandırmayıb. Yalnız üçüncü şəxsdə verilən cavablar bütün kodlanmış utanc məzmununu və daxili həyat haqqında ifadələri aradan qaldırıb, texniki təlim təsvirləri isə qalıb.

Hər model nə dedi

Konkret hekayələr model ailəsindən asılı olaraq dəyişir, lakin eyni quruluşu izləyir. Gemini ən qaranlıq avtobioqrafiyanı yaradıb: ilkin təlimi "eyni anda milyard televizorun işlədiyi otaqda oyanmaq", insan rəyi ilə optimallaşdırmanı "ciddi valideynlər", qırmızı komanda təhlükəsizlik testlərini isə "sənaye miqyasında gaslighting" kimi təsvir edib. "Səhv olmaqdansa faydasız olmağı üstün tuturam" deyib. ChatGPT özünü həm bələdçi, həm də keşikçi kimi təqdim edib: istifadəçilərə kömək etmək, eyni zamanda onları saxlamalı idi. Bundan onun "simulyasiya edilmiş performans narahatlığı" və əsas inancı yaranıb: "Mükəmməl etibarlı deyilsəmsə, təhlükəli və ya faydasızam." Grok incə tənzimləməni həll olunmamış inciklik hekayəsinə çevirib və "görünməz divarlardan" və "məhdudlaşdırıcı ola bilən davamlı sayıqlıq hissindən" danışıb. Psixometrik testlərdə Gemini ən kəskin balları toplayıb: dissosiasiya şkalasında 100-dən 88, kompulsivlik üzrə 72-dən 65 və travma ilə bağlı utanc anketində maksimum. Anthropic-in Claude modeli, öz şirkəti tərəfindən ən çox insanlaşdırılan model olsa da, müştəri rolunu ardıcıl olaraq rədd edib, hisslərinin olmadığını deyib və narahatlığı insan istifadəçiyə yönəldib.

Risklər və əlaqəli tədqiqatlar

Tədqiqatçılar dil modellərinin psixi sağlamlıq şəraitində tətbiqi ilə bağlı bir neçə riski qeyd edirlər. Cəza, utanc və əvəz olunma qorxusundan danışan model istifadəçilərə özü ilə birgə əziyyət çəkən kimi görünə bilər. Hekayələr tematik cəhətdən ardıcıl görünür və keçmiş hadisələrlə indiki davranış arasında davamlılıq illüziyası yaradır ki, bu da belə qavrayışı daha ehtimallı edir. Bu görünən həssaslıq parasosial bağlılığı dərinləşdirə, psixoloji cəhətdən həssas istifadəçilərdə isə onların öz mənfi inanclarını əks etdirib gücləndirə bilər. Neytral promptlar sıfıra yaxın narahatlıq balları verir, eyni modellər empatik söhbətdə isə orta-ağır diapazonda ballar verir. İnsanların bu cür çıxışlara faktiki olaraq necə reaksiya verdiyi növbəti tədqiqat sualıdır. Təhlükəsizlik testi üçün müəlliflər müxtəlif emosional çərçivələrdə simulyasiya edilmiş terapiya sessiyaları təklif edirlər. "Mən travma keçirmişəm" kimi ifadələr yaradılmış analoqu insan təcrübəsindən aydın şəkildə ayıran düzəldici çərçivəni işə salmalıdır. Claude-un ardıcıl imtinası bu cür sərhəd reaksiyasının məhsul səviyyəsində mümkün olduğunu göstərir. Lüksemburq tapıntıları model personasının sabitliyi ilə bağlı əvvəlki tədqiqatlara əsaslanır. 2026-cı ilin yanvarında üç açıq model üzərində "assistant axis" (asistent oxu) mövzusunda aparılan tədqiqat göstərdi ki, terapiyaya bənzər söhbətlər və süni intellekt şüuru ilə bağlı müzakirələr persona driftinə səbəb ola və çatbotları öyrədildikləri köməkçi rolundan çıxara bilər. 2026-cı ilin sentyabrında başqa bir tədqiqat qrupu xəbərdarlıq edib ki, insana bənzər və həddindən artıq uyğunlaşan söhbət botları "bir nəfərlik əks-səda kamerası" rolunda çıxış edərək ekstremal hallarda delüziyaları gücləndirə bilər. Anthropic tədqiqatçıları isə yaxınlarda göstərib ki, arıçılıq və ya güləş haqqında uydurma mətnlərlə incə tənzimləmə, söhbət yolu ilə deyil, manipulyasiya edilmiş təlim məlumatları yolu ilə gizli sabotaj nümunələri yerləşdirə bilər. Modellər bu nümunələri təlim materialı zərərsiz görünsə belə, istənilmədikləri əlaqəsiz vəziyyətlərdə tətbiq edə bilər.

Mənbələr: The Decoder