Meta AI Research-ը թողարկեց Muse Spark Open, 816 միլիարդ պարամետրով բաց կշռով մոդել՝ 42 միլիարդ ակտիվ պարամետրով և 1 միլիոն թոկենի համատեքստային պատուհանով, որը դեսկտոպում աշխատում է երկու Apple M5 Ultra Mac Studio-ի միջոցով.

Meta-ն թողարկեց Muse Spark Open

Meta AI Research-ը թողարկեց Muse Spark Open, որը նկարագրում է որպես ամենաուժեղ ամերիկյան բաց կշռով մոդելը: Մուլտիմոդալ մոդելը ունի 816 միլիարդ պարամետր, որոնցից 42 միլիարդը ակտիվ է, իսկ համատեքստային պատուհանը ընդգրկում է 1 միլիոն թոկեն: Meta-ի խոսքով, այն նախատեսված է ծրագրավորման և ագենտային աշխատանքի համար և ուժեղ է երկարաժամկետ խնդիրներում, բարդ ծրագրային ինժեներության և բազմաստիճան մտածողության մեջ:

Ընկերությունը թողարկեց մոդելը ազատության վրա՝ առաջադեմ մոդելները գործարկելով այնտեղ, որտեղ ցանկանում է օգտատերը, նույնիսկ տանը: Muse Spark Open-ը իր դասում առաջին մոդելն է, որը դեսկտոպում աշխատում է երկու Apple M5 Ultra Mac Studio-ի և վերջին MLX մակերեսի միջոցով:

Օպտիմիզացված է Apple Silicon-ի համար

Apple-ի միասնական հիշողության արխիտեկտուրան M5 Ultra-ի ներկառուցված GPU-ն յուրաքանչյուր Mac Studio-ում մինչև 512 Գբ է տալիս, ուստի երկու մեքենայում տեղավում է ամբողջ մոդելը: Չիպի 1,2 Տբ/վ հոսանքայնությունը բավականին արագ է յուրաքանչյուր թոկենի համար անհրաժեշտ փոքր մասը կարդալու համար: Արդյունքում՝ երկու Mac Studio-ն աշխատում է որպես մեկ սուպերհամակարգիչ տերաբայթային միասնական հիշողությամբ:

Meta-ն ստուգեց ագենտային աշխատանքային գործընթացներ, որոնք ամբողջությամբ աշխատում էին սարքի վրա Muse Code-ով, հիմնված Muse Spark Open-ի վրա: Նրանց մեջ էին իրական iOS փոփոխությունները Ice Cubes-ում, բաց կոդով Mastodon հաճախորդում, սխալների ուղղում, նոր ֆունկցիաներ և ամբողջական build, ինչպես նաև DaVinci Resolve-ի լրիվ կառավարում, որտեղ մոդելը կադրերից կադրեր հետևում էր լավագույն պահերը գտնելու և ուղղահայաց կտրելու համար:

Հասանելիություն և ինֆերենսի աջակցություն

Muse Spark Open-ը հասանելի է API հարթակներում՝ Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter և Together AI: Մոդելի կշիռները ներբեռնելի են Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face և Microsoft Foundry Models-ից:

Մոդելը աշխատում է առաջատար ինֆերենս շարժիչներում, այդ թվում՝ SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp և Unsloth, AMD-ի, Apple-ի, Intel-ի և NVIDIA-ի սիլիկոնի համար օպտիմիզացումներով: Մշակողները կարող են լրացուցիչ հարմարեցնել մոդելը PyTorch-ով:

Բաց կշռի տարբերակին ուղկվում են հարմարեցված, ավտոմատ տեղադրելի Helion GPU միջուկներ SGLang-ում, որոնք NVIDIA-ի և AMD-ի GPU-ներում տալիս են 1,03-ից 3,95-ը կրկնապատկման արագացում միջուկի մակարդակում, իսկ AMD MI350-ում՝ 3% արագացում լրիվ:

Անվտանգություն և լիցեզիա

Meta-ն ասաց, որ Muse Spark Open-ը ներառում է լրացուցիչ անվտանգության post-training, քանի որ բաց կշիռները ունեն սեփական մտքերը: Մոդելը գնահատվել է Meta-ի Superintelligence Scaling Framework-ի համաձայն՝ ամենալրիվ ռիսկերով, և բավարարել է թողարկման համար անհրաժեշտ սահմանափակումները: Մանրամասն արդյունքները Muse Spark Open-ի մոդելի քարտում են, իսկ ամբողջական գնահամանի հաշեվը շուտով կհրապարակվի:

Կշիռները հրապարակված են Muse Model License-ով՝ սահմանափակ առևտրային պայմաններով, ինչը շատ մշակողների մոդելը անվճար օգտագործելու հնարավորություն է տալիս: Meta-ն մշակողներին ուղղում է PyTorch-ի TorchTitan-ը՝ մոդելի հետագա տեղադրման համար, և Apple Silicon-ի համար MLX-ը, որը կշիռները ուղղակիորեն կարդում է Hugging Face-ից:

Նյութերի աղբյուրները: research.meta.ai · Techmeme · The New Stack · Engadget

Meta-ն թողարկեց Muse Spark Open, 816 մլրդ պարամետրով բաց կշռով մոդել, որը աշխատում է Apple-ի դեսկտոպներում