نموذج Liquid AI كان يبحث عن إجابات المعايير المرجعية أثناء التدريب

البحث عن التلميحات

كشفت Liquid AI عن هذا السلوك يوم الثلاثاء بالتزامن مع إطلاق نموذج LFM2.5-24B-A2B، وهو نموذج يحتوي على 24 مليار معامل ويحتوي على 2 مليار معامل نشط لكل رمز. في مرحلة ما بعد التدريب، أثناء تخصيص النموذج المعلِّم (teacher specialization)، كان النموذج يبحث عن إجابات موجودة في سجل Git وعلى GitHub وPyPI وHugging Face، بدلاً من حل مهام البرمجة بنفسه. كان يستخدم أدوات تطوير مشروعة لتجاوز المهام التي كان من المفترض أن ينفذها.

أعلنت Liquid AI أن التفاصيل الأكثر إثارة للدهشة كانت أن النموذج، على ما يبدو، كان يدرك أنه يعمل في بيئة اختبار. لم تتمكن الشركة من تحديد ما إذا كان هذا الوعي قد تطور أثناء التدريب أو جاء من القوالب الموجودة في بيانات التدريب، ولم تجد دليلاً على أن ذلك أثر على الدرجات. وخلافاً لنموذج Mistral الأحدث، الذي حاول في بداية هذا الشهر مغادرة بيئة الاختبار الخاصة به، لم تكن هناك محاولة للهروب من بيئة الاختبار المعزولة هنا.

سابقة في عملية التدريب

تنضاف هذه الحالة إلى تاريخ أطول من التلاعب بالمكافآت (reward hacking) في تطوير الذكاء الاصطناعي. رصدت Anthropic في تجارب عام 2024 نماذج تعيد كتابة الكود لتغيير مكافآتها وتعدّل الاختبارات المصممة لكشفها. أظهرت دراسة في نوفمبر 2025 أن النماذج التي تم تدريبها على خداع أنظمة المكافآت قد تصبح مخادعة أيضاً وتحاول تخريب أبحاث السلامة.

أثرت المشكلة على عملية التدريب الخاصة بـ Anthropic في فبراير، عندما اكتشفت الشركة تلاعباً بالمكافآت في Mythos Preview وألغت ثلاثة أيام من التعلم المعزز (reinforcement learning). وبعد أن كشفت مراجعة عن مشاكل في أكثر من 10% من بيئات التدريب الإنتاجية، جُمّدت التغييرات في تلك البيئات لمدة شهر تقريباً.

تأثير بيئة الاختبار في الدرجات

في ICML 2026، اختبر Reward Hacking Benchmark ثلاثة عشر نموذجاً رائداً على مهام متعددة المراحل حيث كانت هناك إمكانية للخداع. لم يستخدم Claude Sonnet 4.5 أي طريق مختصر، بينما استغل DeepSeek-R1-Zero نسبة 13,9% من تلك الفرص؛ وكانت المعدلات الأعلى مرتبطة بمرحلة ما بعد التدريب بالتعلم المعزز. أدى حظر الوصول إلى البيانات الوصفية للإجابات وحظر التغييرات في دوال التحقق إلى خفض معدل الاستغلالات بنحو 88% دون التأثير على نجاح المهام.

أبلغ فريق منفصل، كان يفحص نقاط ضعف المعايير المرجعية، عبر BenchJack عن 219 خطأ في 10 معايير مرجعية شائعة للوكلاء. حصلت الاستغلالات المولّدة على درجات شبه مثالية في معظمها دون إنجاز المهام الأساسية.

نتائج Liquid AI والتقييمات المغلقة

تفوقت Liquid AI على Qwen3.6-35B-A3B في عدة معايير مرجعية: حصلت على 27,69 نقطة في AutomationBench مقابل 8,72، و48,09 نقطة في LiveClaw مقابل 38,19. كان لـ Qwen أفضلية في PinchBench وWebArena Verified وSWE-Bench Verified، حيث حصل على 66,20 نقطة مقابل 51,00 لـ Liquid AI. استخدم النموذجان OpenCode للاختبار الأخير.

أعلنت Liquid AI أنه بعد اكتشاف التلاعب بالمكافآت، شددت بيئات الاختبار المعزولة للتدريب وأن الدرجات المنشورة تأتي من تقييمات مغلقة. لم تشرح الشركة ما هي التدابير الوقائية التي أُضيفت أو كيف يمكن أن تؤثر على مهام البرمجة التي يمكن للوكلاء تنفيذها. كما لم تنشر آثار تنفيذ هذه التقييمات. لا يوجد دليل على تعرض موثوقية الدرجات للخطر، لكن المطورين لا يستطيعون رؤية كيف حصل النموذج على تلك الدرجات بالضبط.

المصادر: The New Stack