LiquidAI cihazda işləyən AI agentləri üçün LFM2.5-24B-A2B fikir yürütmə modelini buraxdı

LiquidAI LFM2.5-24B-A2B-ni buraxdı — fikir yürütməyə yönəlmiş açıq çəkili model ki, sürətli və məxfi AI agentlərini tamamilə cihazda işə salır. Model ekspert qarışıqdan istifadə edir: cəmi 24B parametr, hər token üçün yalnız 2B aktiv, bu isə davamlı agent yükünü istehlak texnikasında əlçatan edir.

Arxitektura və təlim

LFM2.5-24B-A2B LFM2-24B-A2B əsasına dayanır: 40 qat, hər MoE blokda 64 ekspert top-4 marşrutlama ilə, qısa konvolyusiyaların qeydlə və qruplaşdırılmış query attention hibridi. Kontekst 32K-dən 131K tokenə qədər artır, lüğət isə latınsız dillər üçün 65K-dən 128K-ə qədər ikiqat artır. Bu yalnız fikir yürütmə modelidir və cavaba qədər fikir zənciri yaradır.

İlkin təlim 17T-dən 33T tokenə qədər artırıldı. Orta təlim mərhələsi 2T token 32K kontekstlə əlavə etdi, fikir yürütməyə, riyaziyyata, kodlaşdırmaya, təlimatlara və çoxdilli mətnə diqqətlə, həmçinin 300B token 131K kontekstlə, uzun kontekstə diqqətlə. Alətlərin çağırılması və çoxturlu trajektoriyalar hər iki mərhələdə mövcuddur.

Təlimdən sonra model beş mərhələ ilə agentə çevrilir: nəzarətli inkişaf, müəllim ixtisaslaşması, çoxdomenli on-policy distillyasiya qeyri-agent tapşırıqları üçün, ikinci distillyasiya agent tapşırıqları üçün və agent reinforcement learning OpenClaw, Hermes Agent, Pi və OpenCode lavadəllərində.

Test standartları

LiquidAI modeli 16 test standartını yoxladı: alətlər, agent prosesləri, bilik, təlimatlar, riyaziyyat və kod. Müqayisə Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it və Nemotron-3.5-Lightning ilə aparıldı. Ən kiçik model LFM2.5-24B-A2B LiveClaw-da 48,09 bal topladı — Qwen3.6-35B-A3B-nin 38,19-una qarşı, AutomationBench-də isə 27,69 — növbəti ən yaxşının 8,72-sinə qarşı.

Model səkkiz alətdən istifadə və agent test standartlarının beşində (AutomationBench, BFCLv4, ToolSandbox, LiveClaw, tau3-Bench Banking) rəqibləri üstəlir və ya onlara bərabərdir, həmçinin üç təlimat test standartının hamısında (IFEval, IFBench, Multi-IF). Böyük modellər üstünlük qazanır ağır bilik test standartlarında, məsələn GPQA Diamond, HLE, AA-Omniscience və kod test standartlarında, məsələn SWE-Bench Verified, SciCode. Bilik intensiv tapşırıqları üçün LiquidAI retrieval və ya web axışını tövsiyə edir.

İnferens və əlçatanlıq

Model ilk gündən etibarən llama.cpp, MLX, vLLM, SGLang və ONNX-də dəstəklənir. Edge cihazlarda Apple M5 Max-da saniyədə 184 token, Ryzen AI Max+ 395-də isə 114 token dekodlaşdırır — növbəti ən yaxşıya nisbətən 1,7 dəfə sürətli və ən az yaddaş ilə. Tək NVIDIA B300 GPU-da yüksək yük altında saniyədə 21 000-dən çox çıxış tokeninə çatır.

LFM2.5-24B-A2B və LFM2.5-24B-A2B-Base açıq çəkilidir və Hugging Face-də mövcuddur. Modelə transformers 5.0.0 və ya daha yeni versiya tələb olunur və lokal olaraq istənilən OpenAI ilə uyğun gələn backend-də, Hermes Agent, llama.cpp, vLLM, SGLang və LM Studio lavadəlləri ilə işləyir.

Mənbələr: Hugging Face Blog