בלוג

Janas-LLM מנצח את llama.cpp ב־13 מודלים ומריץ מודלי LLM גדולים על מחשב נייד עם 32 GB RAM

Janas-LLM מריץ את Qwen3-Next-80B על מחשב נייד עם 32 GB במהירות 37 טוקנים לשנייה ומנצח את llama.cpp ב־13 מודלים, תוך טעינה מקבילית של מומחים מ־NVMe SSD במערכת Debian 13 עם Intel Core Ultra 9 185H.