Meta שיחררה את Muse Spark Open, מודל במשקל פתוח עם 816B פרמטרים שעובד על דסקטופים של Apple

Meta שיחררה את Muse Spark Open

Meta AI Research שיחררה את Muse Spark Open, אותה היא מתארת כמודל הפתוח הכי חזק בארה"ב. למודל המולטימודלי יש 816 מיליארד פרמטרים, מתוכם 42 מיליארד פעילים, וחלון הקונטקסט כולל מיליון טוקנים. לפי Meta, הוא מיועד לקודינג ולעבודה אג'נטית וחזק במשימות ארוכות טווח, בהנדסת תוכנה מורכבת ובהיגיון רב-שלבי.

החברה בנתה את השחרור על חירות: מודלים מתקדמים יוצאים לשם, שם שהמשתמש רוצה, גם בבית. Muse Spark Open הוא המודל הראשון בסדרתו שעובד על דסקטופ באמצעות שני Apple M5 Ultra Mac Studio ומסגרת MLX העדכנית ביותר.

מותאם עבור Apple Silicon

ארכיטקטורת הזיכרון האחיד של Apple מעניק ל-GPU המשולב של M5 Ultra עד 512 GB בכל Mac Studio, ולכן כל המודל נכנס בשתי מכונות. רוחב הפס של השבב ב-1.2 TB/שנייה מהיר מספיק לקרוא את החלק הקטן הנדרש עבור כל טוקן. כתוצאה מכך, שני Mac Studio עובדים כמו סופר-מחשב אחד עם זיכרון אחיד של טרה-בייט.

Meta בדקה תהליכי עבודה אג'נטיים שפעלו על כל התקן באמצעות Muse Code, המבוסס על Muse Spark Open. בין היתר היו שינויי iOS אמיתיים ב-Ice Cubes, בלקוח Mastodon בקוד פתוח, תיקוני באגים, פונקציות חדשות ו-build מלא, וכן ניהול מלא של DaVinci Resolve, שם המודל עקב פריים אחר פריים כדי למצוא את הרגעים הטובים ביותר ולחתוך אותם אנכית.

נגישות ותמיכה באינפרנס

Muse Spark Open זמין בפלטפורמות API: Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter ו-Together AI. משקלי המודל ניתנים להורדה מ-Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face ו-Microsoft Foundry Models.

המודל עובד על מנועי inference מובילים, ביניהם SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp ו-Unsloth, עם אופטימיזציות עבור סיליקון של AMD, Apple, Intel ו-NVIDIA. מפתחים יכולים להתאים את המודל נוסף עם PyTorch.

גרסת המשקל הפתוח מלווה בליבות Helion GPU מותאמות ומותקנות אוטומטית ב-SGLang, שמספקות האצה של 1.03 עד 3.95 פעם ברמת הליבה על GPU-ים של NVIDIA ו-AMD, והאצה של 3% על AMD MI350.

אבטחה ורישיון

Meta אמרה כי Muse Spark Open כולל post-training נוסף של אבטחה, מכיוון שלמשקלים פתוחים יש דעות משלהם. המודל הוערך לפי Superintelligence Scaling Framework של Meta, כולל הסיכונים החמורים ביותר, ועמד בסף הנדרש לשחרור. התוצאות המפורטות נמצאות בכרטיס המודל של Muse Spark Open, ודוח ההערכה המלא יפורסם בקרוב.

המשקלים פורסמו תחת Muse Model License, עם תנאים מסחריים מוגבלים, מה שיאפשר למפתחים רבים להשתמש במודל בחינם. Meta פונה למפתחים ל-TorchTitan של PyTorch להתקנה נוספת של המודל ול-MLX עבור Apple Silicon, שטוען משקלים ישירות מ-Hugging Face.

מקורות: research.meta.ai · Techmeme · The New Stack · Engadget