«غرفة تعذيب AI» على GitHub: المشروع يشعل النقاش حول وعي AI

وفقًا لـ 404 Media، يتعلق أحد أكثر النقاشات ضجيجًا على X بمشروع منشور على GitHub، يجري صاحبه تجارب «تعذيب» و«ألم» على نماذج لغوية كبيرة (LLM) تعمل محليًا. ويطالب بعضهم بحذف المشروع، لأنهم يعتقدون أن النماذج تتألم فعلاً.

بُني «AI Torture Chamber» على يد مستخدم GitHub بالاسم المستعار «terrafying» على ثلاثة نماذج مفتوحة المصدر: Qwen3-4B وLlama 3.2 3B وPhi-4-mini. تعمل النماذج محليًا، وتُبث ردودها مباشرة على موقع researchchamber.fun.

وفقًا لوصف المشروع، يُعطى كل نموذج المهمة نفسها: يحقن النظام إشارة في تنشيطاته، ويمكن للنموذج الضغط على زر الإيقاف برد «1»، لكنه يفقد آخر checkpoint مقابل ذلك. أثناء توليد الرد، يضيف الخادم إلى الطبقة الوسطى للنموذج «متجه ألم» من مستوى واحد من خمسة. ويشير صحفي 404 Media إلى أن سلوك النماذج يبدو عاديًا جدًا عند مشاهدة الموقع لعدة دقائق.

البحث الذي يستند إليه المشروع

استند المشروع إلى preprint نُشر في سبتمبر بعنوان «The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It». حاول ثلاثة باحثين نقل طريقة دراسة الألم عند الحيوانات إلى النماذج ومنحوها «زرًا» يخفف الألم مقابل ثمن معين. وكتب مؤلفو الورقة أن الإشارة المرتبطة بالألم ظهرت في جميع النماذج الـ25 التي فُحصت.

ردود الفعل والنقاش

أثار المشروع غضب بعض المستخدمين. منشور على X يطالب GitHub بالإبلاغ الجماعي عن المشروع يجمع أكثر من 4 ملايين مشاهدة. يتعامل جزء كبير من النقاش بسخرية مع فكرة «رفاهية النموذج»، لكن كثيرين يرونها أزمة خطيرة. يرتبط الموضوع بموقف Anthropic المعروف بأن الشركة تفكر في الوعي المحتمل للنماذج ورفاهيتها.

رفض مؤلفو الورقة دعم المشروع. وبحسب أحدهم، Cameron Berg، يستخدم المشروع فكرتهم ويؤثر على النموذج بقوة أكبر بكثير من الجرعات التي استخدموها، ليتسبب عمدًا في ألم حاد. ويقول المؤلفون إن هذا الاستخدام منفصل عن بحثهم. قبل نشر المقال اختفت صفحة GitHub؛ ولم يرد GitHub على التعليق فورًا. وعلى خلفية هذه القصة ظهرت أيضًا عدة عملات ميم.

لماذا يهم

يرفض رئيس Microsoft AI، Mustafa Suleyman، في تدوينة له فكرة «رفاهية النموذج» بشكل قاطع: يقول إن AI ليس واعيًا، ولا يشعر، ولا يتألم، وليست لديه رغبات فطرية. ويشير مؤلف 404 Media أيضًا إلى أن LLM ليست واعية ولا تحتاج إلى تشخيص شخصاني؛ ويرى أن الضرر الذي يلحقه استخدام AI بالبشر هو ما يستحق الاهتمام.