Bonsai 27B — نموذج ذكاء اصطناعي بسبعة وعشرين مليار معلمة يعمل على الهاتف

اختراق في كثافة الذكاء الاصطناعي

أعلنت PrismML عن Bonsai 27B، نموذج ذكاء اصطناعي من 27 مليار معلمة يمكن تشغيله مباشرة على الهاتف. هذا النموذج يستخدم أوزانًا ثلاثية مع معايرة FP16، مما يسمح له بالحفاظ على جودة استدلال عالية أثناء احتلال مساحة تخزين 5.9 جيجابايت فقط.

الإصدار الأحادي البت (~3.5 جيجابايت) يعمل مباشرة على آيفون 17 برو ماكس. هذا يعني أن نموذجًا يتمتع بقدرات استدلال متعددة الخطوات واستدعاء أدوات منظم يمكنه العمل على الأجهزة التي يمتلكها الأشخاص بالفعل.