Meta, 816B Parametreli Açık Ağırlıklı Modeli Yayınladı: Muse Spark Open, Apple Masaüstülerinde Çalışır

Meta, Muse Spark Open'ı Yayınladı

Meta AI Research, Muse Spark Open'ı yayınladı ve onu en güçlü Amerikan açık ağırlıklı modeli olarak nitelendiriyor. Çok modalli model 816 milyar parametreye sahip, bunların 42 milyarı aktif, bağlam penceresi ise 1 milyon tokeni kapsıyor. Meta'ya göre model kodlama ve ajan görevleri için tasarlandı ve uzun soluklu görevlerde, karmaşık yazılım mühendisliğinde ve çok adımlı münazarasında güçlü.

Şirket sürümü özgürlüğe indirdi: son teknoloji modelleri istedikleri yerde, evde bile çalıştırabilsinler. Muse Spark Open, masaüstünde iki Apple M5 Ultra Mac Studio ve en güncel MLX framework ile çalışan sınıfının ilk modeli.

Apple Silicon İçin Optimize Edildi

Apple'ın birleşik bellek mimarisi, M5 Ultra'ya gömülü GPU ile her Mac Studio'da 512 GB'a kadar sağlar, bu yüzden iki makinede tüm model sığar. Çipin 1,2 TB/sn bant genişliği, her token için gerekli kısmı okumak için yeterince hızlı. Sonuç olarak, iki Mac Studio terabaytlık bir birleşik bellekte süper bilgisayar gibi çalışır.

Meta, tamamen ekipman üzerinde Muse Code ile çalışan ve Muse Spark Open'a dayanan ajan iş süreçlerini test etti. Bunlar arasında Ice Cubes'ta gerçek iOS değişiklikleri, açık kaynaklı Mastodon istemcisinde hata düzeltmeleri, yeni özellikler ve tam build, ayrıca DaVinci Resolve'ta uçtan uca yönetim vardı; model kare kare ilerleyerek en iyi anları bulmak ve dikey olarak kırpma için.

Erişilebilirlik ve Çıkarım Desteği

Muse Spark Open, API platformlarında erişilebilir: Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter ve Together AI. Model ağırlıkları Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face ve Microsoft Foundry Models'den indirilebilir.

Model, önde gelen çıkarım motorlarında çalışır, bunlar arasında SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp ve Unsloth; AMD, Apple, Intel ve NVIDIA silikoni için optimizasyonlarla. Geliştiriciler modeli PyTorch ile ek olarak uyarlayabilirler.

Açık ağırlıklı sürüm, SGLang'da kurulmuş, otomatik olarak yüklenebilir Helion GPU çekirdekleri ile gelir; bu NVIDIA ve AMD GPU'larında çekirdek düzeyinde 1,03'ten 3,95'e kadar hızlanma sağlar, AMD MI350'te ise %3'e kadar.

Güvenlik ve Lisans

Meta, Muse Spark Open'ın açık ağırlıkların kendi görüşleri olduğu için ek güvenlik post-training içerdiğini söyledi. Model, Meta'nın Superintelligence Scaling Framework'üne göre, en ciddi riskler dahil değerlendirildi ve yayınlamak için gereken eşikleri karşıladı. Ayrıntılı sonuçlar Muse Spark Open model kartında, tam değerlendirme raporu ise yakında yayınlanacak.

Ağırlıklar Muse Model License ile yayınlandı, sınırlı ticari koşullarla, bu da birçok geliştiricinin modeli ücretsiz kullanmasını sağlıyor. Meta, geliştiricileri modelin ileri kurulumu için PyTorch'tan TorchTitan'a ve Apple Silicon'da MLX'e yönlendiriyor, bu da ağırlıkları doğrudan Hugging Face'ten yükler.

Kaynaklar: research.meta.ai · Techmeme · The New Stack · Engadget