•SiTech AI Team
Janas-LLM, 32 GB RAM'li laptop'ta 13 modelde llama.cpp'yı geçerek büyük LLM'ler çalıştırıyor
Janas-LLM, Qwen3-Next-80B modelini 32 GB RAM'li laptop'ta saniyede 37 token hızıyla çalıştırıyor ve 13 modelde llama.cpp'yı geçiyor. NVMe SSD'den uzmanları paralel olarak aktarıyor. Debian 13 sisteminde Intel Core Ultra 9 185H ile test edildi.
