Bonsai 27B — 27 միլիարդ պարամետրով AI մոդել, որն աշխատում է հեռախոսի վրա

Բեկում խելքի խտության մեջ

PrismML-ը հայտարարել է Bonsai 27B-ի մասին՝ 27 միլիարդ պարամետրով արհեստական բանականության մոդել, որը կարող է աշխատել անմիջապես հեռախոսի վրա: Այս մոդելը օգտագործում է եռակի կշիռներ FP16 խմբային մասշտաբավորմամբ, ինչը թույլ է տալիս պահպանել բարձրորակ դատողություններ կատարելու ունակությունը՝ զբաղեցնելով ընդամենը 5.9 ԳԲ հիշողություն:

1-բիթանոց տարբերակը (~3.5 ԳԲ) աշխատում է անմիջապես iPhone 17 Pro Max-ի վրա: Սա նշանակում է, որ բազմաստիճան դատողությունների, գործիքների կանչի և գործակալական հնարավորություններով մոդելը կարող է աշխատել այն սարքերի վրա, որոնք մարդիկ արդեն ունեն: