LiquidAI-მ გამოუშვა LFM2.5-24B-A2B მსჯელობის მოდელი მოწყობილობაზე მომუშავე AI აგენტებისთვის

LiquidAI-მ გამოუშვა LFM2.5-24B-A2B, მსჯელობაზე ორიენტირებული ღია წონების მოდელი, რომელიც სწრაფ და პრივატულ AI აგენტებს მთლიანად მოწყობილობაზე ამუშავებს. მოდელი ექსპერტთა ნარევს იყენებს: სულ 24B პარამეტრი, თითო ტოკენზე მხოლოდ 2B აქტიური, რაც უწყვეტ აგენტურ დატვირთვას სამომხმარებლო ტექნიკაზე ხდის ხელმისაწვდომს.

არქიტექტურა და ტრენინგი

LFM2.5-24B-A2B ეფუძნება LFM2-24B-A2B-ს: 40 ფენა, 64 ექსპერტი თითო MoE ბლოკზე top-4 როუტინგით, გეითიანი მოკლე კონვოლუციებისა და დაჯგუფებული query attention-ის ჰიბრიდი. კონტექსტი 32K-დან 131K ტოკენამდე იზრდება, ლექსიკონი კი 65K-დან 128K-მდე ორმაგდება არალათინური ენებისთვის. ეს მხოლოდ მსჯელობის მოდელია და პასუხამდე აზროვნების ჯაჭვს ქმნის.

წინასწარი ტრენინგი 17T-დან 33T ტოკენამდე გაიზარდა. შუალედურმა ტრენინგმა დაამატა 2T ტოკენი 32K კონტექსტით, აქცენტით მსჯელობაზე, მათემატიკაზე, კოდზე, ინსტრუქციებსა და მრავალენოვან ტექსტზე, და 300B ტოკენი 131K კონტექსტით, გრძელ კონტექსტზე აქცენტით. ხელსაწყოების გამოძახება და მრავალტურიანი ტრაექტორიები ორივე ეტაპზეა.

ტრენინგის შემდეგ მოდელი ხუთ ეტაპად იქცევა აგენტად: ზედამხედველობითი დახვეწა, მასწავლებლის სპეციალიზაცია, მრავალდომენიანი on-policy დისტილაცია არააგენტური ამოცანებისთვის, მეორე დისტილაცია აგენტური ამოცანებისთვის და აგენტური reinforcement learning OpenClaw, Hermes Agent, Pi და OpenCode ჰარნესებში.

ბენჩმარკები

LiquidAI-მ მოდელი 16 ბენჩმარკზე შეამოწმა: ხელსაწყოები, აგენტური პროცესები, ცოდნა, ინსტრუქციები, მათემატიკა და კოდი. შედარება Qwen3.6-35B-A3B-ს, Gemma-4-26B-A4B-it-სა და Nemotron-3.5-Lightning-თან. ყველაზე პატარა მოდელმა LFM2.5-24B-A2B-მ LiveClaw-ზე 48,09 აიღო Qwen3.6-35B-A3B-ის 38,19-ის წინააღმდეგ, AutomationBench-ზე კი 27,69 მომდევნო საუკეთესოს 8,72-ის წინააღმდეგ.

მოდელი უსწრებს ან ეწევა კონკურენტებს რვა ხელსაწყოთი სარგებლობისა და აგენტური ბენჩმარკიდან ხუთზე (AutomationBench, BFCLv4, ToolSandbox, LiveClaw, tau3-Bench Banking) და სამივე ინსტრუქციის ბენჩმარკზე (IFEval, IFBench, Multi-IF). დიდ მოდელებს უპირატესობა რჩებათ ცოდნისმძიმე ბენჩმარკებზე, როგორიცაა GPQA Diamond, HLE, AA-Omniscience, და კოდის ბენჩმარკებზე, მაგალითად SWE-Bench Verified, SciCode. ცოდნის ინტენსიური ამოცანებისთვის LiquidAI retrieval-ს ან ვებძიებას გირჩევთ.

ინფერენსი და ხელმისაწვდომობა

მოდელი პირველივე დღიდან მხარდაჭერილია llama.cpp-ში, MLX-ში, vLLM-ში, SGLang-სა და ONNX-ში. Edge მოწყობილობებზე Apple M5 Max-ზე წამში 184 ტოკენს, Ryzen AI Max+ 395-ზე 114 ტოკენს დეკოდირებს, მომდევნო საუკეთესოზე 1,7-ჯერ სწრაფად და ყველაზე ნაკლები მეხსიერებით. ერთ NVIDIA B300 GPU-ზე მაღალი კონკურენტულობით 21 000-ზე მეტ გამომავალ ტოკენს წამში აღწევს.

LFM2.5-24B-A2B და LFM2.5-24B-A2B-Base ღია წონებისაა და Hugging Face-ზეა. მოდელს სჭირდება transformers 5.0.0 ან უფრო ახალი და ლოკალურად მუშაობს ნებისმიერ OpenAI-თან თავსებად backend-ზე, Hermes Agent, llama.cpp, vLLM, SGLang და LM Studio ჰარნესებთან.

წყაროები: Hugging Face Blog