Bloq

Janas-LLM 13 modeldə llama.cpp-ni məğlub edir, 32 GB RAM olan noutbukda böyük LLM-ləri işə salır

Janas-LLM Qwen3-Next-80B modelini 32 GB noutbukda saniyədə 37 token sürəti ilə işə salır və llama.cpp-ni 13 modeldə məğlub edir; ekspertləri NVMe SSD-dən Debian 13 sistemində Intel Core Ultra 9 185H ilə paralel yükləyir.