Qwen3.8-2.4T-A95B: מודל ראשון בדרג Qwen-Max במשקולות פתוחות

מודל ראשון בדרג Max בגישה פתוחה

צוות Qwen פרסם ב-Hugging Face את Qwen3.8-2.4T-A95B, שאותו הוא מתאר כדור המתקדם ביותר במשפחת המודלים הפתוחים של Qwen, וכפעם הראשונה שבה מודל בדרג Qwen-Max יוצא בגישה פתוחה. המשקולות מסופקות בפורמט Transformers ותואמות למנועי הרצה כמו vLLM, SGLang ו-TokenSpeed; כרטיס המודל מציין רישיון בשם qwen3.8-max ודיווח על 55,519 הורדות בחודש האחרון.

מבחינה ארכיטקטונית זהו מודל תערובת-מומחים: 2.4 טריליון פרמטרים בסך הכול ו-95 מיליארד פעילים, הפרוסים על 92 שכבות עם 512 מומחים, שמתוכם פועלים לכל טוקן עשרה מומחים מנותבים ומומחה משותף אחד. המבנה מחליף בין בלוקים של Gated DeltaNet ו-Gated Attention, והמודל אומן בחיזוי רב-טוקני. אורך ההקשר הוא 262,144 טוקנים כברירת מחדל, עם הרחבה עד 1,010,000.

תוצאות הבנצ'מרקים

ההשוואה שפורסמה מציבה את Qwen3.8-Max — הגרסה המאוחסנת המבוססת על משקולות אלה — מול Opus 4.8, Fable 5 ו-GPT-5.6 Sol (max). הוא משיג 86.6 ב-Terminal Bench 2.1, ‏67.7 ב-SWE-bench Pro, ‏56.6 ב-DeepSWE 1.1 ו-93.0 ב-PaperBench. ביכולות כלליות מדווחים על 92.6 ב-GPQA Diamond, ‏43.6 ב-HLE ו-82.8 ב-IFBench, ובנוסף 92.9 במבחן השליפה MRCR v2 בהקשר של 256 אלף טוקנים.

היתרון אינו מלא: Fable 5 נשאר לפניו ב-SWE-bench Pro, ‏80.0 מול 67.7, ו-GPT-5.6 Sol (max) רושם 88.8 ב-Terminal Bench 2.1 לעומת 86.6 של Qwen.

טקסט בלבד, ואין אפשרות לכבות את החשיבה

המודל שפורסם הוא טקסטואלי בלבד ודורש מצב חשיבה בכל אינטראקציה: קלט מולטימודלי אינו נתמך ואין דרך להשבית את החשיבה, כך שכל תשובה מתחילה בחשיבה עטופה בתגי think לפני הפלט הסופי. את עומק החשיבה אפשר לכוונן בפרמטר reasoning_effort, ו-preserve_thinking שומר את הקשר החשיבה מהודעות קודמות ופועל כברירת מחדל בכל עומס. לעבודות סוכנים הכרטיס ממליץ להקצות עד 262,144 טוקני פלט לחשיבה ו-131,072 לתשובה הסופית.

השם Max שייך לגרסה המאוחסנת: לפי הצוות, Qwen3.8-Max מוסיף מעל המשקולות הפתוחות קלט חזותי, מצב ללא חשיבה, הקשר של מיליון טוקנים כברירת מחדל וכלים מובנים רשמיים.