Meta-მ გამოუშვა Muse Spark Open, 816B-პარამეტრიანი ღია წონის მოდელი, რომელიც Apple-ის დესკტოპებზე მუშაობს

Meta-მ გამოუშვა Muse Spark Open

Meta AI Research-მა გამოუშვა Muse Spark Open, რომელსაც ყველაზე ძლიერ ამერიკულ ღია წონის მოდელად აღწერს. მულტიმოდალურ მოდელს 816 მილიარდი პარამეტრი აქვს, მათგან 42 მილიარდი აქტიურია, კონტექსტის ფანჯარა კი 1 მილიონ ტოკენს მოიცავს. Meta-ს თქმით, ის კოდინგისა და აგენტური სამუშაოსთვისაა და ძლიერია გრძელვადიან ამოცანებში, რთულ პროგრამულ ინჟინერიასა და მრავალსაფეხურიან მსჯელობაში.

კომპანიამ გამოშვების მთავარ გზავნილად თავისუფლება აირჩია: მოწინავე მოდელები იქ უნდა გაეშვას, სადაც მომხმარებელს სურს, სახლშიც. Muse Spark Open პირველი მოდელია თავის კლასში, რომელიც დესკტოპზე ორი Apple M5 Ultra Mac Studio-თი და უახლესი MLX ფრეიმვორკით მუშაობს.

ოპტიმიზებულია Apple Silicon-ზე

Apple-ის ერთიანი მეხსიერების არქიტექტურა M5 Ultra-ის ჩაშენებულ GPU-ს თითო Mac Studio-ზე 512 გბ-მდე აძლევს, ამიტომ ორ მანქანაში მთელი მოდელი ეტევა. ჩიპის 1,2 ტბ/წმ გამტარობა საკმარისად სწრაფია ყოველი ტოკენისთვის საჭირო მცირე ნაწილის წასაკითხად. შედეგად, ორი Mac Studio ერთ სუპერკომპიუტერივით მუშაობს ტერაბაიტიანი ერთიანი მეხსიერებით.

Meta-მ შეამოწმა აგენტური სამუშაო პროცესები, რომლებიც მთლიანად მოწყობილობაზე მუშაობდა Muse Code-ით, Muse Spark Open-ზე დაფუძნებული. მათ შორის იყო რეალური iOS ცვლილებები Ice Cubes-ში, ღია კოდის Mastodon კლიენტში, ბაგების გასწორება, ახალი ფუნქციები და სრული build, ასევე DaVinci Resolve-ის ბოლომდე მართვა, სადაც მოდელი კადრ-კადრ ათვალიერებდა მასალას საუკეთესო მომენტების მოსაძებნად და ვერტიკალურად ამოსაჭრელად.

ხელმისაწვდომობა და ინფერენსის მხარდაჭერა

Muse Spark Open ხელმისაწვდომია API პლატფორმებზე: Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter და Together AI. მოდელის წონები ჩამოტვირთვადია Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face და Microsoft Foundry Models-დან.

მოდელი მუშაობს წამყვან inference ძრავებზე, მათ შორის SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp და Unsloth, AMD-ის, Apple-ის, Intel-ისა და NVIDIA-ს სილიკონისთვის ოპტიმიზაციებით. დეველოპერებს მოდელის PyTorch-ით დამატებით მორგება შეუძლიათ.

ღია წონის ვერსიას მოყვება მორგებული, ავტომატურად დასაყენებელი Helion GPU ბირთვები SGLang-ში, რაც NVIDIA-სა და AMD-ის GPU-ებზე 1,03-დან 3,95-მდე აჩქარებას იძლევა ბირთვის დონეზე, ხოლო AMD MI350-ზე 3%-იან აჩქარებას სრულ ციკლში.

უსაფრთხოება და ლიცენზია

Meta-მ თქვა, რომ Muse Spark Open მოიცავს დამატებით უსაფრთხოების post-training-ს, რადგან ღია წონებს თავისი რისკები აქვს. მოდელი შეფასდა Meta-ს Superintelligence Scaling Framework-ის მიხედვით, ყველაზე სერიოზული რისკების ჩათვლით, და დააკმაყოფილა გამოშვებისთვის საჭირო ზღვრები. დეტალური შედეგები Muse Spark Open-ის მოდელის ბარათშია, სრული შეფასების ანგარიში კი მალე გამოქვეყნდება.

წონები გამოქვეყნებულია Muse Model License-ით, შეზღუდული კომერციული პირობებით, რაც ბევრ დეველოპერს მოდელს უფასოდ გამოიყენებინებს. Meta დეველოპერებს მიმართავს PyTorch-ის TorchTitan-ისკენ მოდელის შემდგომი დახვეწისთვის და Apple Silicon-ზე MLX-ისკენ, რომელიც წონებს პირდაპირ Hugging Face-იდან იწერს.

წყაროები: research.meta.ai · Techmeme · The New Stack · Engadget