SiTech AI Team1 دقيقة قراءة
Bonsai 27B — نموذج ذكاء اصطناعي بسبعة وعشرين مليار معلمة يعمل على الهاتف
أعلنت PrismML عن Bonsai 27B، نموذج ذكاء اصطناعي بسبعة وعشرين مليار معلمة يعمل مباشرة على الهاتف، ويشغل مساحة 5.9 جيجابايت فقط.
اختراق في كثافة الذكاء الاصطناعي
أعلنت PrismML عن Bonsai 27B، نموذج ذكاء اصطناعي من 27 مليار معلمة يمكن تشغيله مباشرة على الهاتف. هذا النموذج يستخدم أوزانًا ثلاثية مع معايرة FP16، مما يسمح له بالحفاظ على جودة استدلال عالية أثناء احتلال مساحة تخزين 5.9 جيجابايت فقط.
الإصدار الأحادي البت (~3.5 جيجابايت) يعمل مباشرة على آيفون 17 برو ماكس. هذا يعني أن نموذجًا يتمتع بقدرات استدلال متعددة الخطوات واستدعاء أدوات منظم يمكنه العمل على الأجهزة التي يمتلكها الأشخاص بالفعل.
شارك التجربة الرقمية
SiTech — تطوير ويب مدعوم بالذكاء الاصطناعي
نبني مواقع سريعة وعصرية وندمج الذكاء الاصطناعي في سير عمل الشركات. لديك مشروع أو سؤال؟ يسعدنا مساعدتك.