Xiaomi MiMo 2.6 تطلق لوحة حيّة لتدريب نماذج RL

في 17 سبتمبر، فتح فريق MiMo التابع لشركة Xiaomi لوحة عامة تعرض مقاييس التعلّم المعزّز (reinforcement learning) لنموذجي mimo-v2.6-pro وmimo-v2.6-flash في الوقت الحقيقي، مباشرةً من سجلات مدرّب النموذج. تنقسم اللوحة إلى ثلاثة أقسام — نظرة عامة، والمقاييس، و«about» — وتضمّ خلاصة إشعارات ورسوماً بيانية لكل مقياس وجدول نتائج اختبارات وتركيبة الدفعة في كل خطوة تدريب.

ماذا تعرض اللوحة

الجزء الأكثر غرابة هو خلاصة الإشعارات، إذ تسرد فيها الشركة علناً أعطالاً لا تنشرها المختبرات عادة. أُعيد تشغيل تدريب النموذج pro من الخطوة 17 بسبب نفاد ذاكرة كرت الرسوميات (OOM) الناتج عن عدم توازن في حِمل الخبراء؛ فعدّل الفريق استراتيجية التوازي في التدريب.

ويسرد إشعار آخر مشكلة في اتصال الشبكة بين عنقود تدريب النموذج pro ونشر أداة التقييم grader. أُعيد تشغيل العملية، وحُذفت مجموعة بيانات cyber من تشغيل pro التالي بعد ظهور أنماط سيئة في سجلات rollout. أما تشغيل flash فأُعيد من الخطوة 15 لأن خطأً في البنية التحتية بأحد مجموعات البيانات لم يُكتشف لنحو ثلاث ساعات. توقّف التشغيلان عند الخطوة 30: النموذج pro في 20 سبتمبر بعد 5 أيام و7 ساعات من العمل، والنموذج flash في 19 سبتمبر.

الأرقام ونتائج الاختبارات

تنشر اللوحة أيضاً نتائج الاختبارات بمقياس avg@3. في DeepSWE v1.1 مع mini-swe-agent يسجّل النموذج pro نتيجة 72.57 مقابل 65.68 لنموذج flash؛ وفي اختبار Coding Bench الداخلي 65.43 و62.87؛ وفي AutomationBench v1.0.6 يسجّلان 53.10 و52.70.

وفي مقاييس التدريب يبلغ dynsam/avg@n قيمة 0.633 للنموذج pro (+0.011) و0.644 للنموذج flash (−0.019). ويبلغ متوسط طول السياق 137 ألف رمز للنموذج pro و148 ألف رمز للنموذج flash؛ وتُعالج في الخطوة الواحدة 3.43 و3.7 مليار رمز، بينما تستغرق الخطوة الواحدة 6 ساعات و26 دقيقة مقابل 3 ساعات و27 دقيقة. ووفق آخر بيانات منشورة قبِل النموذج pro عدد 664 عيّنة من أصل هدف يبلغ 1,568 (نسبة نجاح 0.606)، بينما قبِل النموذج flash 2,704 عيّنات.

لماذا يهم الأمر

يعتمد تدريب التعلّم المعزّز على آلاف مجموعات البيانات — وتتابع اللوحة 25 مصدراً في فئات code وcyber وvisual وgeneral وchat. ونادراً ما تُنشر هذه التفاصيل التشغيلية علناً. وتُظهر لوحة MiMo أن تدريب نموذج متقدّم عملية طويلة ومحفوفة بالأعطال، حيث تُعدّ عمليات إعادة التشغيل وتصفية الأخطاء المتكررة قاعدة لا استثناء.