Meta Muse Spark Open təqdim etdi: Apple desktoplarında işləyən 816B parametrik açıq çəki modeli

Meta Muse Spark Open təqdim etdi

Meta AI Research özünə ən güclü Amerikan açıq çəki modeli kimi təsvir etdi. Multimodal model 816 milliard parametrdən ibarətdir, onlardan 42 milliardı aktivdir, kontekst pəncərəsi isə 1 milyon tokenə qədərdir. Meta görə model kodlaşdırma və agent işləri üçündür və uzunmüddətli tapşırıqlarda, mürəkkəb proqram muhandisliyində və çoxaddımlı əqldə qərarvermədə güclüdür.

Şirkət buraxılışı azadlıq əsasında etdi: ən qabaqcıl modelər harada istəsə, hətta evdə işlədilsin deyə. Muse Spark Open sinfində desktopda iki Apple M5 Ultra Mac Studio və ən son MLX framework ilə işləyən ilk modeldir.

Apple Silicon üzərində optimallaşdırılıb

Apple-un vahid yaddaş memarlığı M5 Ultra-nın hər Mac Studio-da 512 GB-a qədər daxili GPU imkan verir, buna görə bütün model iki maşına sığır. Çipin 1,2 TB/s ötürmə qabiliyyəti hər token üçün lazım olan kiçik hissəni oxumaq üçün kifayət qədər sürətlidir. Nəticədə iki Mac Studio terabaytlıq vahid yaddaş ilə süperkompüter kimi işləyir.

Meta Muse Spark Open-ə əsaslanan Muse Code ilə tam cihazda işləyən agent prosesslərini test etdi. Aralarında Ice Cubes-də real iOS dəyişiklikləri, açıq kodlu Mastodon müştərisində səhvlərin düzəldilməsi, yeni funksiyalar və tam build, həmçinin DaVinci Resolve üzrə tam nəzarət var idi; model ən yaxşı anları tapmaq üçün kadr-kadr irəliləyərək şaquli kəsirdi.

Əlçatanlıq və inferensiya dəstəyi

Muse Spark Open API platformlarında mövcuddur: Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter və Together AI. Model çəkiləri Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face və Microsoft Foundry Models-dən endirilə bilər.

Model ödənişli inferensiya mühərriklərində işləyir, o cümlədən SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp və Unsloth, AMD, Apple, Intel və NVIDIA silikonları üçün optimallaşdırmalarla. İstehsalçılara PyTorch ilə modeli əlavə uyğunlaşdırmağa imkan verilir.

Açıq çəki versiyasına uyğun, avtomatik quraşdırıla bilən Helion GPU nüvələri SGLang-də daxildir; bu, NVIDIA və AMD GPU-larında nüvə səviyyəsində 1,03-dən 3,95-ə qədər sürət artımı verir, AMD MI350-də isə 3%-ə qədər artım əldə olunur.

Təhlükəsizlik və lisenziya

Meta bildirib ki, Muse Spark Open açıq çəkilərin öz rəyləri olduğuna görə əlavə təhlükəsizlik post-training daxildir. Model Meta-nın Superintelligence Scaling Framework-i üzrə qiymətləndirildi, ən ciddi risklər nəzərə alınaraq buraxılış üçün tələb olunan həddləri ödədi. Ətraflı nəticələr Muse Spark Open model kartındadır, tam qiymətləndirmə hesabı isə tezlikə dərc olunacaq.

Çəkilər Muse Model License ilə və məhdud kommersiya şərtləri ilə dərc edilib; bu, bir çox geliştiricinin modeli pulsuz istifadə etməsinə səbəb olacaq. Meta geliştiriciləri modelin növbəti quraşdırılması üçün PyTorch TorchTitan-a, Apple Silicon üçün isə MLX-ə yönləndirir; MLX çəkiləri birbaşa Hugging Face-dən endirir.

Mənbələr: research.meta.ai · Techmeme · The New Stack · Engadget