SiTech Team⏱️ 1 წთ. საკითხავი
Bonsai 27B — Telefonda Çalışan 27 Milyar Parametreli AI Modeli
PrismML, Bonsai 27B'yi duyurdu — doğrudan telefonda çalışan, yalnızca 5.9 GB yer kaplayan 27 milyar parametreli yapay zeka modeli.
Zeka Yoğunluğunda Atılım
PrismML, Bonsai 27B'yi duyurdu — doğrudan telefonda çalışabilen 27 milyar parametreli bir yapay zeka modeli. Bu model, FP16 grup ölçeklemesiyle üçlü ağırlıklar kullanarak yalnızca 5.9 GB yer kaplarken yüksek kaliteli akıl yürütme yeteneğini koruyor.
1-bit versiyonu (~3.5 GB) doğrudan iPhone 17 Pro Max'te çalışıyor. Bu, çok adımlı akıl yürütme, araç çağrısı ve ajan yeteneklerine sahip bir modelin insanların zaten sahip olduğu cihazlarda çalışabileceği anlamına geliyor.