Xiaomi MiMo 2.6 חשפה לוח בזמן אמת לאימון RL

ב-17 בספטמבר פתח צוות MiMo של Xiaomi לוח ציבורי שמציג מדדי reinforcement learning למודלים mimo-v2.6-pro ו-mimo-v2.6-flash בזמן אמת, ישירות מהלוגים של מאמן המודל. הלוח מחולק לשלושה חלקים — סקירה, מדדים ו«about» — וכולל פיד הודעות, גרפים לכל מדד, טבלת בנצ'מרקים והרכב הבאטצ' של כל צעד אימון.

מה מציג הלוח

החלק יוצא הדופן ביותר הוא פיד ההודעות, שמפרט בגלוי כשלים שמעבדות בדרך כלל שומרות לעצמן. הרצת האימון של pro הופעלה מחדש מהצעד ה-17 בגלל אזילת זיכרון GPU שנגרמה מחוסר איזון בעומס המומחים; הצוות שינה את אסטרטגיית המקבוליות של האימון.

רשומה אחרת מתארת בעיית קישוריות רשת בין אשכול האימון של pro לפריסת ה-grader. ההרצה הופעלה מחדש, ומערך הנתונים cyber הוסר מההרצה הבאה של pro לאחר שדפוסים בעייתיים הופיעו בלוגי ה-rollout. הרצת flash הופעלה מחדש מהצעד ה-15 מפני ששגיאת תשתית באחד ממערכי הנתונים לא זוהתה במשך כשלוש שעות. שתי ההרצות נעצרו בצעד 30: pro ב-20 בספטמבר לאחר 5 ימים ו-7 שעות, ו-flash ב-19 בספטמבר.

מספרים ובנצ'מרקים

הלוח מפרסם גם תוצאות בנצ'מרק לפי avg@3. ב-DeepSWE v1.1 עם mini-swe-agent מקבל pro ציון 72.57 ו-flash ‏65.68; ב-Coding Bench הפנימי — 65.43 ו-62.87; וב-AutomationBench v1.0.6 — 53.10 ו-52.70.

מבין מדדי האימון, dynsam/avg@n עומד על 0.633 אצל pro (+0.011) ועל 0.644 אצל flash (−0.019). אורך ההקשר הממוצע הוא 137 אלף טוקנים אצל pro ו-148 אלף אצל flash; בכל צעד מעובדים 3.43 ו-3.7 מיליארד טוקנים, וצעד בודד נמשך 6 שעות ו-26 דקות לעומת 3 שעות ו-27 דקות. לפי הנתונים האחרונים שפורסמו, pro קיבלה 664 דגימות מתוך יעד של 1,568 (שיעור הצלחה 0.606), ו-flash קיבלה 2,704.

למה זה חשוב

אימון RL נשען על אלפי מערכי נתונים — הלוח עוקב אחר 25 מקורות בקטגוריות code, cyber, visual, general ו-chat. פרטים תפעוליים כאלה כמעט ולא מתפרסמים. הלוח של MiMo מראה שאימון של מודל חזית הוא תהליך ארוך ומועד לתקלות, שבו הרצות מחדש וניפוי באגים חוזר הם הנורמה ולא החריג.