Muse Glimmer: yerel ajanlar için 30 milyar parametreli açık model

Meta Superintelligence Labs, 30 milyar parametreli Muse Glimmer modelini tanıttı; modelin ağırlıkları izin verici Apache 2.0 lisansıyla yayımlandı. Şirket modeli sürekli açık kalan yerel ajan iş akışları için konumlandırıyor: model, tek bir tüketici GPU'lu Mac veya PC'de çalışabilecek kadar küçük. Hedef kullanım alanları arasında yerel ajanlar, fonksiyon çağırma, yerel kod yazma ve LLM-as-a-judge değerlendirmesi sayılıyor.

Model neler yapabiliyor

Muse Glimmer, DeepSearch QA, MCP-Atlas, τ-Bench ve SWE-Bench gibi uçtan uca ajan testlerinde değerlendirildi ve kendi boyut sınıfında Gemma4-31B ile Qwen3.6-27B modelleriyle karşılaştırıldı. Şirkete göre model, uzun iş akışlarında araçları hassas şemalarla çağırıyor, uzun ufukta tutarlı planlar koruyor ve bir araç çağrısı başarısız olduğunda durmak yerine hatayı teşhis edip yeniden denemek üzere eğitildi. Ayrı bir algı kodlayıcısı sayesinde metin ve görüntüyü birlikte işliyor; böylece bir ajan ekran görüntülerini, grafikleri ve belgeleri konuşmanın yanında okuyabiliyor. Ayrıca OpenClaw gibi ajan iskeletleriyle uyumluluk, ayarlanabilir akıl yürütme derinliği ve 100'den fazla dilden toplanan eğitim verisi belirtiliyor.

Model nasıl eğitildi

Eğitim üç aşamada yürütüldü. Ön eğitimde model, daha büyük bir öğretmen model olan Muse Spark'ın çıktıları üzerinde logit distillation yöntemiyle, benzer bir veri karışımıyla eğitildi. Orta aşamada daha uzun bağlamlı ve ajan ağırlıklı veriler, daha zengin akıl yürütme izleriyle birlikte eklendi. Son aşamada gözetimli ince ayar, on-policy distillation ve genel, akıl yürütme, kodlama ile ajan alanlarında pekiştirmeli öğrenme birleştirildi. Şirket, sürümün Advanced AI Scaling Framework standartlarına göre değerlendirildiğini belirtiyor.

30 milyar parametre cihaza nasıl sığıyor

Tam hassasiyette 30 milyar parametreli bir model 55 GB'ın üzerinde bellek gerektiriyor; bu da tüketici sınıfı GPU'ların çok üzerinde. Ağırlıkların yaklaşık 4 bit hassasiyete nicemlenmesi dil modelini 20 GB'ın altına indiriyor ve KV önbelleği, algı kodlayıcısı ile spekülatif kod çözme taslağı için 24 veya 32 GB'lık bir zarf içinde yer bırakıyor. Hız için Muse Glimmer, DFlash tabanlı hafif bir taslak modelle geliyor: küçük ağ bütün token bloklarını öneriyor, ana model ise bunları paralel olarak doğruluyor. Şirketin ölçümlerine göre kod çözme hızı RTX 5090'da 3,1 kat, M5 Max'te 1,8 kat, M4 Max'te ise 1,5 kat artıyor.

Ağırlıklar Hugging Face üzerinde, geliştirici dokümantasyonu ise Meta'nın portalında yayında. Önümüzdeki günlerde llama.cpp, MLX ve ExecuTorch için optimize entegrasyonların yanı sıra Ollama, LM Studio, Unsloth, vLLM, SGLang, Together AI, Fireworks AI ve OpenRouter üzerinden çalıştırma seçenekleri duyuruldu.