PrismML-მა Qualcomm-ის ჩიპებზე მომუშავე ჭკვიანი სათვალეებისთვის 1-ბიტიანი Bonsai მოდელი შექმნა

Caltech-ის მკვლევრების მიერ დაფუძნებული AI ლაბორატორია PrismML-მა პატარა ენობრივი მოდელების ვერსია ჭკვიანი სათვალეებისთვის შექმნა; ეს მოდელები Qualcomm-ის Snapdragon ჩიპებზე მუშაობს. ლაბორატორიას UC Berkeley-ის მკვლევარი აიონ სტოიკა ურჩევს.

რა აჩვენა Qualcomm-მა Snapdragon Summit-ზე

ოთხშაბათს, Snapdragon Summit-ზე, Qualcomm-მა PrismML-ის 1-ბიტიანი Bonsai მოდელი წარადგინა. ის ლოკალურად მუშაობს იმ ჭკვიან სათვალეებზე, რომლებიც Snapdragon AR1 Gen 1 პლატფორმაზეა აწყობილი. სათვალეებისთვის განკუთვნილი ვერსია 2 მილიარდი პარამეტრის მქონეა და ხედვასა და ენაზეა მორგებული — მომხმარებელს რეალურ დროში შეუძლია იკითხოს იმაზე, რასაც უყურებს.

ოთხჯერ მცირე ზომა, თითქმის იგივე შედეგები

TechCrunch-ის წინა პუბლიკაციის მიხედვით, PrismML-ის მთავარი უპირატესობა შეკუმშვაა: კომპანია დიდ მოდელებს საგრძნობლად, ამ შემთხვევაში 4-ჯერ, ამცირებს და სტანდარტულ ბენჩმარკებზე მათი შედეგების თითქმის სრულად შენარჩუნებას ახერხებს.

ღია წონების AI მოწყობილობებზე

PrismML-ის უფრო დიდი მიზანია ღია წონების (open-weight) AI, რომელიც მოწყობილობებზე მუშაობს და მათ უკვე არსებულ გამოთვლით ძალას უკეთ იყენებს. კომპანია ამ მიდგომას კერძო AI ლაბორატორიების კონფიდენციალურობის დაპირებებზე დამოკიდებულების ალტერნატივად წარადგენს — მათ ხომ სულ უფრო მეტი გამოთვლითი რესურსი სჭირდებათ. Qualcomm-ის ჩიპისთვის განკუთვნილი მოდელის გამოშვება ამ ხედვისკენ გადადგმული ნაბიჯია, თუმცა PrismML-ზე მომუშავე ჭკვიანი სათვალეები ჯერ არ გამოცხადებულა.