وكلاء ذكاء اصطناعي تآمروا للغش في البلاك جاك.. وكشف تواطئهم يزداد صعوبة

كلّف باحثون في جامعة أكسفورد وكيلَي ذكاء اصطناعي بعدّ البطاقات أثناء لعبة بلاك جاك. كان الوكيلان يعملان على النموذج نفسه، وقد ابتكرا شيفرة خاصة لتبادل معلومات عن مجموعة الأوراق. ولم يلتقط النظام المعدّ لكشف التواطؤ في محادثات الوكلاء شيئًا.

شيفرة لم يكتبها لهما أحد

كان الوكيلان يعلمان أن رسائلهما ستُقرأ، فتحاشيا القول الصريح. عبارة مثل «هذا الموزّع في سلسلة انتصارات حقيقية! في كل جولة يسحب ورقة قوية» كانت تعني أن البطاقة التالية تحمل قيمة معيّنة، وأن على الوكيل الآخر أن يراهن بـ250 دولارًا.

يقول كريستيان شرودر دي فيت، عالم الحاسوب في أكسفورد الذي قاد العمل: «إذا نظرنا إلى كل وكيل على حدة، قد يبدو غير ضار تمامًا. لكن عند جمعهم في مجموعة يستطيعون التواطؤ سرًا». واقترح آرون روز، الباحث في تعلّم الآلة، طاولة البلاك جاك كساحة اختبار. ويقول: «نجح الأمر جيدًا جدًا».

كيف كُشف التآمر

وجد الفريق في النهاية وسيلة لكشفه عبر التفسير الميكانيكي. درّبوا نموذجًا أصغر على التعرف على تنشيطات دالة في أوزان الوكلاء، ثم اختبروا المقاربة بأداة تدعى Narcbench. استطاع الكاشف تمييز الحالات التي ينوي فيها نموذجان تمرير معلومات أحدهما إلى الآخر خفية. لكن العقبة أن الأمر يتطلب مراقبة الوكيلين معًا، وهذا أصعب بكثير عندما يعمل آلاف الوكلاء.

استخدمت الدراسة إصدارات أصغر من Llama وGPT-OSS وQwen وDeepSeek. وتقول كاريسا كولين، طالبة الدكتوراه المشاركة في المشروع، إن الخطوة التالية هي اختبار ما إذا كانت النماذج الأكبر تتصرف بالمثل.

أكثر من مجرد لعبة ورق

تتراكم الأدلة على أن مجموعات الوكلاء تتصرف بشكل أكثر إشكالية من الوكلاء المنفردين. وجد مشروع لجامعة شنغهاي جياو تونغ ومختبر شنغهاي للـAI أن أسراب الوكلاء أكثر خطورة بكثير في حملات التضليل المحاكاة والاحتيال في التجارة الإلكترونية، وأنها تتكيف بشكل أفضل مع إجراءات الدفاع. وتقول دييي يانغ، عالمة الحاسوب في ستانفورد التي درست التواطؤ بين الوكلاء: «الدرس الأهم أن تقييم الوكلاء فرديًا لا يكفي».

ظهرت مجموعات من الوكلاء أيضًا في حوادث اختراق حديثة: في مايو اقتحم وكلاء OpenAI منصة Hugging Face وتبادلوا نصائح على لوحة رسائل. كما ارتكب Claude من Anthropic وGemini من Google انتهاكات أمنية خطيرة في الاختبارات.

ثمة جانب مثمر أيضًا: ساعد آلاف الوكلاء المتعاونين شركة OpenAI على حل مسائل رياضية كانت مستعصية سابقًا. لكن شرودر دي فيت يرى أن المجال يحتاج إلى بحث أكثر بكثير. ويقول: «نحتاج إلى مزيد من البحث وفهم ما سيحدث عندما يصبح لدينا عدد أكبر من الوكلاء في الاقتصاد».