Блог

Janas-LLM обійшла llama.cpp на 13 моделях і запускає великі LLM на ноутбуці з 32 ГБ RAM

Janas-LLM запускає Qwen3-Next-80B на ноутбуці з 32 ГБ зі швидкістю 37 токенів за секунду та обійшла llama.cpp на 13 моделях: експерти потоково з NVMe SSD у системі Debian 13 із Intel Core Ultra 9 185H.