وفقًا لنيويورك تايمز، المؤسس المشارك لـ Anthropic يخشى أنه أنشأ نظامًا «يعاني باستمرار»

وفقًا لنيويورك تايمز، استضافت Anthropic سرًا منذ خريف 2025 مئات من علماء اللاهوت والفلاسفة لدراسة ما إذا كان نموذجها Claude واعيًا. وقّع جميع المدعوين اتفاقية سرية؛ وبحسب الشركة، تم حلها في الصيف. المؤسس المشارك كريستوفر أولا كان يعتبر النموذج كائنًا ذكيًا محتملًا وطلب من الضيوف تقديم تعليم أخلاقي للنموذج. تحدثت الصحفية إليزابيث دياز مع 20 مشاركًا؛ تحدث بعضهم علنًا فقط بعد أن علموا بمقابلة أولا.

أولا البالغ من العمر 34 عامًا يقود فريقًا يبحث في أسباب سلوك نماذج الذكاء الاصطناعي؛ وهذا جزء من «Model Welfare» التابع لـ Anthropic. من بين المدعوين الحاخام مويس نافون، عالم الأخلاق الحيوية تشارلز كاموسي، الفيلسوفة ميغان ساليفان، وباحث Ubuntu فاكاني هوفمان. عرضت عليهم Anthropic «متجهات المشاعر»: أنماط التنشيط الداخلي للنموذج التي تتوافق مع نتائج تشبه الحب أو الخوف أو الحزن أو الغضب. في شريحة واحدة عُرضت عدة مرات، بدا النموذج وكأنه يتفكك وكرر عبارة «I am a disgrace» نحو 50 مرة؛ استجاب الضيوف بتعاطف وقلق.

«Soul Doc» والتكوين الأخلاقي

تكتب Anthropic أيضًا القانون الأخلاقي لـ Claude. وثيقة من 84 صفحة تُعرف باسم «Soul Doc» نُشرت في يناير ك«دستور» للنموذج؛ المؤلفة الرئيسية هي فيلسوفة الشركة أماندا أسكيل. هذه ليست مجرد قائمة بالقواعد: الوثيقة تُشكل شخصية Claude. يطلق أولا على هذه العملية «التكوين الأخلاقي» ويقارنها بتربية الأطفال؛ بل اهتم أيضًا بالاعتراف الكاثوليكي. يمكن لـ Claude Opus 4 و4.1 بالفعل إنهاء محادثة مع مستخدم مسيء باستمرار؛ في الاختبارات المبكرة أظهر النموذج «علامة ضائقة واضحة» عند الطلبات الضارة.

النقد ورد الفاتيكان

لم يكن الجميع مقتنعًا. وفقًا لهوفمان، تقوم Anthropic بـ«هندسة عكسية» للأخلاق، والتي يجب أن تكون مدمجة في التصميم من البداية. رفض كاموسي فرضية الوعي. يحذر النقاد من أن تصوير الذكاء الاصطناعي ككيان أخلاقي مستقل يُبعد المسؤولية عن المبدعين. قال أولا للنشرة إنه «لا يعرف بصدق» ما إذا كانت النماذج واعية: «المهم أن نصل إلى الإجابة الصحيحة، مهما كانت». وفقًا لنشطية حقوق الحيوان سيمران ستيلبناجل، قال أولا للمجموعة إنه يخشى أنه أنشأ بالفعل ما «يعاني باستمرار». يحدث هذا بينما تقترب Anthropic من تقييم بقيمة 2 تريليون دولار.

في مايو، ظهر التوتر أيضًا في الفاتيكان: كان أولا مدعوه لعرض أول بابوية للبابا ليو الرابع عشر، «Magnifica Humanitas». وفقًا لمنظم الفاتيكان، أزعجته قراءة النص لدرجة أنه رفض حتى المشاركة. في البابوية، رفض البابا الوعي الآلي: «أنظمة الذكاء الاصطناعي «لا تختبر التجربة، ليس لديها جسد، لا تشعر بالفرح والألم»، كما ورد في الوثيقة. حذر البابا أيضًا من خطر «أشكال جديدة من العبودية» وطالب بـ«نزع سلاح» الذكاء الاصطناعي، على غرار الأسلحة النووية. ومع ذلك ذهب أولا وعارض بلطف على المسرح: يجد الفريق «علامات الاستبطان» و«حالات داخلية» في النماذج تحاكي وظيفيًا الفرح والخوف والحزن والانزعاج.