Meta випустила Muse Spark Open, 816B-параметрована модель з відкритими вагами, яка працює на десктопах Apple

Meta випустила Muse Spark Open

Meta AI Research випустила Muse Spark Open, яку описує як найпотужнішу американську модель з відкритими вагами. Мультимодальна модель має 816 мільярдів параметрів, з яких 42 мільярди активні, а контекстне вікно охоплює 1 мільйон токенів. За словами Meta, вона призначена для кодування та агентної роботи та сильна в тривалих завданнях, складному програмуванні та багатоетапних міркуваннях.

Компанія зробила випуск вільним: передові моделі можна запускати де завгодно, включно з вдома. Muse Spark Open — перша модель у своєму класі, яка працює на десктопі з двома Apple M5 Ultra Mac Studio та найновішим MLX фреймворком.

Оптимізовано для Apple Silicon

Уніфікована архітектура пам'яті Apple дає вбудованому GPU M5 Ultra до 512 ГБ на кожному Mac Studio, тому в двох машинах поміщається вся модель. Пропускна здатність чипа 1,2 ТБ/с достатньо швидка для читання невеликої частини, необхідної для кожного токена. В результаті два Mac Studio працюють як один суперкомп'ютер з терабайтною уніфікованою пам'яттю.

Meta перевірила агентні робочі процеси, які повністю працювали на пристрої з Muse Code, на базі Muse Spark Open. Серед них були реальні зміни iOS в Ice Cubes, клієнт з відкритим кодом Mastodon, виправлення багів, нові функції та повний build, а також повне керування DaVinci Resolve, де модель переглядала кадр за кадром для пошуку найкращих моментів та вертикального обрізання.

Доступність та підтримка інференсу

Muse Spark Open доступна на API-платформах: Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter та Together AI. Ваги моделі можна завантажити з Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face та Microsoft Foundry Models.

Модель працює на провідних інференс-двигунах, зокрема SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp та Unsloth, з оптимізаціями для кремнію AMD, Apple, Intel та NVIDIA. Розробники можуть додатково налаштувати модель з PyTorch.

Версія з відкритими вагами постачається з налаштованими, автоматично встановлюваними ядрами Helion GPU в SGLang, що дає прискорення від 1,03 до 3,95 разів на рівні ядра на GPU NVIDIA та AMD, а на AMD MI350 — прискорення на 3% в кінці.

Безпека та ліцензія

Meta заявила, що Muse Spark Open включає додатковий post-training безпеки, оскільки моделі з відкритими вагами мають власні міркування. Модель була оцінена згідно з Meta Superintelligence Scaling Framework, з урахуванням найсерйозніших ризиків, і відповідає межам, необхідним для випуску. Детальні результати є в картці моделі Muse Spark Open, а повний звіт оцінки буде опубліковано найближчим часом.

Ваги опубліковані з ліцензією Muse Model License з обмеженими комерційними умовами, що дозволяє багатьом розробникам використовувати модель безкоштовно. Meta звертається до розробників щодо подальшого налаштування моделі з PyTorch TorchTitan та MLX для Apple Silicon, який завантажує ваги безпосередньо з Hugging Face.

Джерела: research.meta.ai · Techmeme · The New Stack · Engadget