Microsoft AI-nin dediyinə görə, MAI-Base-2 əsas modeli, MoE 80 milyard aktiv və 2,8 trilyon ümumi parametrlə, açıq çəkili rəqibləri təməl dəyərlərməzlərdə üstələnir və DeepSeek-V4-Pro-Base-dən 4-dən 12 dəfə daha FLOPs-effektivdir.

Microsoft AI MAI-Base-2-nin öncə təlimini başa çatdırdı

Microsoft AI MAI-Base-2-nin öncə təlimini başa çatdırdı, şirkət onu yeni sinfin əsas modeli kimi təsvir edir. Model ekspertların qarışıq (MoE) arxitekturasından istifadə edir, 80 milyard aktiv və 2,8 trilyon ümumi parametrlə, bu onu şirkətin portfolioda ən böyük öncə öyrədilmiş bazal model çıxışına çevirir.

Bu iş iyyən ayı elan edilmiş MAI-Thinking-1-i izləyir, ümumi təyinatlı əsas modeldir və MAI-Base-1 üzərində əlavə təlimlə güclü mühacimə hücumuna nail olur. MAI-Base-2 birbaşa bu irsən, növlərin növbəti əsas modeli kimi dayanır.

Açıq çəkili rəqiblərdə daha yaxşı nəticələr

Şirkətin Lab Notes bloguna əsasən, MAI-Base-2 Microsoft AI-in sınaqdan keçirdiyi bütün açıq çəkili modelləri üstələnir. Daxili benchmarklar kod, sual-cavab, riaziyyat və STEM qiymətləndirmələrini əhatə edir; nəticələr bits per byte-də ölçülür, burada aşağı bal yaxşıdır.

Öncə təlim effektivliyinin artması

Qrup, MAI-Base-2-nin öncə təlim dövründə DeepSeek-V4-Pro-Base-dən 4-dən 12 dəfə daha FLOPs-effektiv olduğunu və onu müqayisədə ən güclü açıq bazal model kimi adlandırdığını bildirir. Microsoft AI, bu effektivlik ilə qənaət edilmiş hesablama resursunun daha böyük bir modelin təliminə yönləndirilməsini bildirir, bu da frontier öncə təlim üçün nəzərdə tutulmuş dizayn seçimi kimi.

Şirkətin müqayisələri həmçinin ən azı 1 trilyon ümumi parametri olan modelləri, onların arasında əlavə təlim almış sistemləri, məsələn, MiMo-V2.6-Pro-RL, Qwen3.8-2.4T-A95B və Kimi K3-ü əhatə edir.

Mənbələr: Microsoft AI · Techmeme

Microsoft AI MAI-Base-2-nin öncə təlimini başa çatdırdı, 2,8 trilyon parametrikli MoE modeli