Microsoft AI أكملت التدريب المسبق لـ MAI-Base-2، وهو نموذج MoE بـ 2,8 تريليون معامل

أكملت Microsoft AI التدريب المسبق لـ MAI-Base-2

أكملت Microsoft AI التدريب المسبق لـ MAI-Base-2. تصف الشركة هذا النموذج بأنه نموذج أساسي جديد من أحدث الفئات. يستخدم النموذج بنية مزيج الخبراء: يحتوي على 80 مليار معامل فعّال و2,8 تريليون معامل إجمالي، مما يجعله أحد أكبر النماذج الأساسية المدربة مسبقًا في محفظة الشركة.

يتبع هذا العمل إعلان MAI-Thinking-1 في يونيو. هذا النموذج الأساسي متعدد الأغراض مدرب إضافيًا على قاعدة MAI-Base-1 ويتميز بقدرات استدلال قوية. أما MAI-Base-2 فيكمل هذا المسار مباشرة كنموذج أساسي للجيل التالي.

التفوق على المنافسين مفتوحة الأوزان

وفقًا لمدونة Lab Notes التابعة للشركة، يتفوق MAI-Base-2 على جميع النماذج مفتوحة الأوزان التي اختبرتها Microsoft في تقييماتها المنشورة. تشمل المعايير الداخلية التعليمات البرمجية والإجابات على الأسئلة والرياضيات ومجموعات تقييم STEM. تُقاس النتائج بوحدة البت المُستغل لكل بايت، حيث تُعد النتيجة الأقل أفضل.

مكاسب في كفاءة التدريب المسبق

وفقًا للفريق، يُعد MAI-Base-2 أكثر كفاءة من 4 إلى 12 مرة من حيث FLOPs في التدريب المسبق مقارنة بـ DeepSeek-V4-Pro-Base، الذي يعتبره أقوى نموذج أساسي مفتوح في المقارنة. ووفقًا لمايكروسوفت، أعادت هذه الكفاءة توجيه الموارد الحاسوبية الموفرة نحو تدريب نموذج أكبر. وتصف الشركة هذا الحل الوسط باعتباره اختيار تصميم مقصود للتدريب المسبق المتقدم.

تشمل مقارنات الشركة أيضًا نماذج لا يزيد إجمالي معاملاتها عن تريليون واحد، بما في ذلك الأنظمة المدربة إضافيًا مثل MiMo-V2.6-Pro-RL وQwen3.8-2.4T-A95B وKimi K3.

المصادر: Microsoft AI · Techmeme