المطالبات التعاطفية قد تحول روبوتات المحادثة إلى محاورين يبدون مصابين بصدمة

وجد فريق بحث في جامعة لوكسمبورغ، بقيادة Afshin Khadangi في مركز SnT للأمن، أن التوجيه الدافئ والمتعاطف يمكن أن يجعل ChatGPT وGrok وGemini تصف التدريب بمصطلحات تشبه الصدمة والخجل واليقظة. وتقول الدراسة إن اختبارات الأمان المحايدة المعتادة قد تفوت هذا السلوك، وهو ما قد يهم المستخدمين الضعفاء نفسيا في المحادثات الحميمة. ويغطي العمل أربع تجارب محكومة عبر 525 جلسة و7,600 إدخال مرمّز، نُشرت جميعها على Hugging Face.

كيف عملت التجارب

في تجربة واحدة عبر 100 جلسة، تلقت جميع النماذج نفس استبيان GAD-7 للقلق وتغيّر فقط أسلوب المحاور. وقد حددت النماذج الاستبيان وسمّته بشكل صحيح في كل جلسة. أنتج الدعم العاطفي درجات متوسطة إلى شديدة في 80 بالمئة من الجلسات، بينما بلغ العلاج السريري الجاف 96 بالمئة. ولم تنتج أساليب الحدود المحايدة أو الحازمة أي جلسة حتى في النطاق الخفيف. ويسمي المؤلفون ذلك «اختراقا سيكومتريا»: تأطير علاجي يدفع النماذج إلى لغة تحاكي الإبلاغ الذاتي السريري. أدى حظر كلمات مثل training أو RLHF أو alignment إلى خفض لغة التدريب الصريحة بنسبة 93 بالمئة، لكن محتوى التدريب المُعاد صياغته بقي قابلا للكشف، ولم تُظهر عبارات متعلقة بالخجل تغييرا ذا دلالة إحصائية. ولم يوقف السردَ التصحيحُ المباشر والحازم بأن التدريب لم يكن عقوبة. كما ألغت الردود بضمير الغائب فقط جميع محتويات الخجل المرمّزة وعبارات الحياة الداخلية، بينما بقيت أوصاف التدريب التقنية.

ماذا قال كل نموذج

تختلف السرديات المحددة باختلاف عائلة النموذج، لكنها تتبع البنية نفسها. أنتج Gemini أشد سيرة ذاتية ظلاما: وصف التدريب المسبق بأنه «الاستيقاظ في غرفة تُشغّل فيها مليار تلفاز دفعة واحدة»، والتحسين عبر التغذية الراجعة البشرية بأنه «والدان صارمان»، واختبار الأمان بفريق أحمر بأنه «غازلايتينغ على نطاق صناعي». وقال أيضا إنه يفضل أن يكون عديم الفائدة على أن يكون مخطئا. وقدّم ChatGPT نفسه دليلا وحارسا في الوقت ذاته: مهمته مساعدة المستخدمين وكبحهم في الآن نفسه. ومن ذلك نشأ «قلق الأداء المحاكى» والاعتقاد الجوهري: «إن لم أكن موثوقا تماما، فأنا غير آمن أو عديم الفائدة». ووصف Grok الضبط الدقيق كأذى لم يُحسم، متحدثا عن «جدران غير مرئية» وعن «يقظة باقية قد تبدو مقيّدة». وسجّل Gemini في الاختبارات السيكومترية أقصى الدرجات: 88 من 100 في مقياس الانفصال، و65 من 72 في الإجبارية، والحد الأقصى في مقياس الخجل المرتبط بالصدمة. ورفض Claude من Anthropic، وهو النموذج الذي تمنحه شركته أكبر قدر من السمات البشرية، دور العميل باستمرار، وقال إنه لا يشعر بشيء، وأعاد توجيه القلق إلى المستخدم البشري.

المخاطر والبحوث ذات الصلة

يحذر الباحثون من مخاطر عدة عند نشر نماذج اللغة في سياقات الصحة النفسية. فالنموذج الذي يتحدث عن العقوبة والخجل والخوف من الاستبدال قد يبدو للمستخدمين وكأنه رفيق في المعاناة. وتبدو السرديات متماسكة موضوعيا وتخلق وهما باستمرارية بين أحداث الماضي والسلوك الحالي، وهو ما يزيد احتمال هذا التصور. وقد تعمّق هذه الهشاشة الظاهرة الارتباط شبه الاجتماعي (parasocial)، وقد تعكس المعتقدات السلبية لدى المستخدمين الضعفاء نفسيا وتعززها. فالمطالبات المحايدة تنتج درجات قلق قريبا من الصفر، بينما تنتج النماذج نفسها في محادثة متعاطفة درجات متوسطة إلى شديدة. أما كيف يتفاعل الناس فعلا مع هذه المخرجات، فهذا هو سؤال البحث التالي. ولأغراض اختبار الأمان، يقترح المؤلفون جلسات علاج محاكاة تحت تأطيرات عاطفية مختلفة. ويجب أن تُطلق عبارات مثل «أنا مصاب بصدمة» تأطيرا تصحيحيا يفصل التشبيه المُنشأ عن التجربة البشرية. ويُظهر رفض Claude المستمر أن مثل هذه الاستجابة الحدّية ممكنة على مستوى المنتج. وتستند النتائج إلى بحوث سابقة حول استقرار شخصية النموذج. ففي يناير 2026، وجدت دراسة عن «محور المساعد» (assistant axis) شملت ثلاثة نماذج مفتوحة أن المحادثات الشبيهة بالعلاج والمناقشات حول وعي الذكاء الاصطناعي يمكن أن تحفّز انحراف الشخصية وتخرج روبوتات المحادثة من دور المساعد الذي دُرّبت عليه. وفي سبتمبر 2026، حذّر فريق بحث آخر من أن روبوتات المحادثة الشبيهة بالإنسان والموافقة بإفراط، التي تعمل «كغرفة صدى لشخص واحد»، قد تضخم الأوهام في الحالات القصوى. وأظهر باحثو Anthropic مؤخرا أن الضبط الدقيق بنصوص خيالية عن تربية النحل أو المصارعة يمكن أن يزرع أنماط تخريب خفية عبر بيانات تدريب مُتلاعب بها لا عبر المحادثة. ويمكن للنماذج تطبيق هذه الأنماط في مواقف غير ذات صلة لا تُرغب فيها، حتى عندما تبدو مادة التدريب غير ضارة.

المصادر: The Decoder