Muse Glimmer. 30 միլիարդ պարամետրով բաց մոդել՝ տեղային գործակալների համար

Meta Superintelligence Labs-ը ներկայացրել է Muse Glimmer-ը՝ 30 միլիարդ պարամետրով մոդել, որի կշիռները հրապարակվել են Apache 2.0 արտոնագրով։ Մոդելը նախատեսված է մշտապես ակտիվ տեղային գործակալային աշխատանքային հոսքերի համար. ընկերության խոսքով՝ այն բավական փոքր է, որպեսզի աշխատի մեկ սպառողական GPU ունեցող Mac-ի կամ PC-ի վրա։ Հիմնական կիրառությունների թվում նշվում են տեղային գործակալները, ֆունկցիաների կանչը, տեղային ծրագրավորումը և LLM-as-a-judge գնահատումը։

Ինչ կարող է անել մոդելը

Muse Glimmer-ը գնահատվել է ամբողջական գործակալային թեստերով՝ DeepSearch QA, MCP-Atlas, τ-Bench և SWE-Bench, իսկ համեմատությունը կատարվել է Gemma4-31B և Qwen3.6-27B մոդելների հետ իր չափային դասում։ Ըստ ընկերության՝ մոդելը երկար հոսքերում գործիքները կանչում է ճշգրիտ սխեմաներով, պահպանում է հետևողական պլան, իսկ գործիքի սխալի դեպքում սովորել է ախտորոշել խնդիրը և կրկին փորձել, այլ ոչ թե կանգ առնել։ Առանձին perception-կոդավորիչի շնորհիվ մոդելը տեքստը և պատկերները մշակում է միասին, այսինքն՝ գործակալը կարող է կարդալ էկրանի պատկերներ, գրաֆիկներ և փաստաթղթեր։ Նշվում են նաև OpenClaw-ի նման scaffold-երի հետ համատեղելիությունը, կարգավորվող մտածողության խորությունը և 100-ից ավելի լեզուների տվյալները։

Ինչպես են մարզել մոդելը

Մարզումը ընթացել է երեք փուլով։ Նախնական մարզման փուլում մոդելը սովորել է ավելի մեծ ուսուցիչ-մոդելի՝ Muse Spark-ի արդյունքների վրա, logit distillation մեթոդով։ Միջին փուլում ավելացվել են ավելի երկար համատեքստի և գործակալային տվյալներ՝ մտածողության ավելի հարուստ հետքերով։ Վերջին փուլում միավորվել են վերահսկվող նուրբ լարումը, on-policy distillation-ը և ամրապնդող ուսուցումը ընդհանուր, մտածողության, կոդի ու գործակալային ոլորտներում։ Ընկերությունը նշում է, որ թողարկումը գնահատվել է Advanced AI Scaling Framework-ի չափանիշներով։

Ինչպես են 30 միլիարդ պարամետրը տեղավորվում սարքում

Ամբողջական ճշգրտության դեպքում 30 միլիարդ պարամետրով մոդելը պահանջում է ավելի քան 55 GB հիշողություն՝ շատ ավելին, քան սպառողական GPU-ն։ Կշիռների քվանտացումը մոտ 4 բիթ ճշգրտության նվազեցնում է լեզվական մոդելը մինչև 20 GB-ից պակաս՝ տեղ թողնելով KV cache-ի, perception-կոդավորիչի և speculative decoding դրաֆտերի համար 24 կամ 32 GB շրջանակում։ Արագության համար Muse Glimmer-ը գալիս է DFlash-ի վրա հիմնված թեթև դրաֆտերով. փոքր ցանցն առաջարկում է թոքենների ամբողջ բլոկներ, իսկ հիմնական մոդելը զուգահեռ ստուգում է դրանք։ Ընկերության չափումներով ապակոդավորման արագությունը 3.1 անգամ աճում է RTX 5090-ի վրա, 1.8 անգամ՝ M5 Max-ի, իսկ 1.5 անգամ՝ M4 Max-ի վրա։

Կշիռներն արդեն հասանելի են Hugging Face-ում, իսկ մշակողների փաստաթղթերը՝ Meta-ի պորտալում։ Առաջիկա օրերին խոստացվում են օպտիմիզացված ինտեգրացիաներ llama.cpp-ի, MLX-ի և ExecuTorch-ի հետ, ինչպես նաև աշխատարկում Ollama-ի, LM Studio-ի, Unsloth-ի, vLLM-ի, SGLang-ի, Together AI-ի, Fireworks AI-ի և OpenRouter-ի միջոցով։