LiquidAI, cihaz üzerinde çalışan AI ajanları için LFM2.5-24B-A2B akıl modelini yayınladı

LiquidAI, hızlı ve gizli AI ajanlarını tamamen cihaz üzerinde çalıştıran, akıl yürütme odaklı açık ağırlıklı model olan LFM2.5-24B-A2B'yi yayınladı. Model, uzman karışımı kullanır: toplam 24B parametre, token başına yalnızca 2B aktif, bu da tüketici donanımında sürekli ajan yükünü mümkün kılar.

Mimari ve Eğitim

LFM2.5-24B-A2B, LFM2-24B-A2B'ye dayanır: 40 katman, her MoE bloğunda 64 uzman ile top-4 yönlendirme, kapılı kısa konvolüsyonlar ve gruplanmış query attention hibriti. Bağlam 32K'den 131K token'a kadar büyür, sözlük ise olmayan diller için 65K'den 128K'ya ikiye katlanır. Bu yalnızca bir akıl modelidir ve yanıta kadar düşünce zinciri oluşturur.

Ön eğitim 17T'den 33T token'a kadar büyütüldü. Ara eğitim, 32K bağlamlı 2T token ekledi; akıl yürütme, matematik, kod, talimatlar ve çok dilli metinlere ağırlık verildi ve 131K bağlamlı 300B token, uzun bağlam ağırlığıyla eğitildi. Araç çağırma ve çok turli trajektoriler her iki aşamada da mevcuttur.

Eğitim sonrası model beş aşamada ajan haline getirilir: gözetimli ince ayar, öğretmen uzmanlığı, ajan olmayan görevler için çok alanlı on-policy distilasyon, ajan görevleri için ikinci distilasyon ve OpenClaw, Hermes Agent, Pi ve OpenCode zeminlerinde ajan güçlendirmeli öğrenme.

Karşılaştırmalar

LiquidAI modeli 16 karşılaştırmada test etti: araçlar, ajan süreçleri, bilgi, talimatlar, matematik ve kod. Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it ve Nemotron-3.5-Lightning ile karşılaştırıldı. En küçük model olan LFM2.5-24B-A2B, LiveClaw'da 48,09 alarak Qwen3.6-35B-A3B'nin 38,19'unu geride bıraktı, AutomationBench'te ise 27,69 alarak bir sonraki en iyinin 8,72'sini geçti.

Model, sekiz araç kullanımı ve ajan karşılaştırmasının beşinde (AutomationBench, BFCLv4, ToolSandbox, LiveClaw, tau3-Bench Banking) rakiplerini geçer veya onlara eşit üç talimat karşılaştırmasında da (IFEval, IFBench, Multi-IF) aynı performansı gösterir. Büyük modeller, GPQA Diamond, HLE, AA-Omniscience gibi bilgi ağırlıklı karşılaştırmalarda ve SWE-Bench Verified, SciCode gibi kod karşılaştırmalarında üstünlüğünü korur. Bilgi yoğun görevler için LiquidAI retrieval veya web araması önerir.

Çıkarım ve Erişilebilirlik

Model ilk günden itibaren llama.cpp, MLX, vLLM, SGLang ve ONNX'te desteklenmektedir. Edge cihazlarda Apple M5 Max'te saniyede 184 token, Ryzen AI Max+ 395'te 114 token çözer; bir sonraki en iyiden 1,7 kat daha hızlı ve en düşük bellek kullanımıyla. Tek bir NVIDIA B300 GPU'da yüksek eşzamanlılıkla saniyede 21 000'den fazla çıktı tokenına ulaşır.

LFM2.5-24B-A2B ve LFM2.5-24B-A2B-Base açık ağırlıklı olup Hugging Face'te bulunur. Model, transformers 5.0.0 veya daha yenisini gerektirir ve Hermes Agent, llama.cpp, vLLM, SGLang ve LM Studio zeminleriyle herhangi bir OpenAI uyumlu arka uç üzerinde yerel olarak çalışır.

Kaynaklar: Hugging Face Blog