Cloudflare-მა Workers AI-ზე Clairic წარადგინა, System One-ის ამოღების მოდელი

System One-ის მოდელების ახალი კლასი

Cloudflare-მა წარადგინა Clairic-ის წინასწარი ვერსია, System One-ის ტიპის ამოღების მოდელების ახალი კლასის პირველი მოდელი. ის Workers AI-ზე @cf/cloudflare/clairic-ის სახელითაა ხელმისაწვდომი; Cloudflare მალე ღია წონებით გამოშვებას გეგმავს. განცხადება მოჰყვება TypeSafe-ის მიერ System One-ის გადაწყვეტილების მოდელის, Jev-ის, ერთი თვის წინ წარდგენას. კონცეფცია დენიელ კანემანის წიგნიდან „Thinking, Fast and Slow“ მოდის: System One-ის აზროვნება სწრაფი და ზუსტია, System Two კი გააზრებულ მსჯელობას მოიცავს, როგორც LLM-ები.

ამოღება, გამოთვლა, შეფასება და პროგნოზირება

Jev-ისა და Clef-ის მსგავსი გადაწყვეტილების მოდელებისგან განსხვავებით, რომლებიც ჩამოთვლილ ვარიანტებზე ალბათობებს აბრუნებენ, Clairic მნიშვნელობებით პასუხობს: ამოღებული, გამოთვლილი, შეფასებული ან პროგნოზირებული. ამოღებული მნიშვნელობები span-ების სახით ბრუნდება, სიმბოლოების ოფსეტებითა და სანდოობის ქულებით. გამოთვლილი მნიშვნელობები, როგორიცაა რიცხვები, თარიღები, ხანგრძლივობები და სიები, თავიანთი ტიპის წესებს მიჰყვება. შეფასებული მნიშვნელობები ბრუნდება განაწილების სახით, მომხმარებლის მიერ გამოცხადებულ საზღვრებში, მედიანითა და 80 პროცენტიანი ინტერვალით. პროგნოზირებული მნიშვნელობები ყოველი მომდევნო ნაბიჯისთვის ერთ შეფასებას იძლევა, თითოეულს საკუთარი ინტერვალით. რადგან მოდელი ტოკენებს არ აგენერირებს, Cloudflare-ის თქმით, ის ვერ შექმნის არასწორი ტიპის პასუხებს და ვერ განიცდის ჰალუცინაციას ისე, როგორც LLM-ს შეუძლია, თუმცა შეცდომები მაინც შესაძლებელია. შედეგი ყოველთვის გამოცხადებული ტიპის მნიშვნელობაა, ან null, როცა მოდელი პასუხს ვერ პოულობს.

ერთი გავლა, მრავალი ველი

მოთხოვნა შედგება state-ისგან (წასაკითხი ტექსტი და ოთხამდე არასავალდებულო სურათი) და ტიპიზირებული ველების რუკისგან, თითოეულს ტიპი და სურვილისამებრ ბუნებრივ ენაზე მოცემული ინსტრუქციები აქვს. ყოველ ველზე პასუხი ერთი წინ გავლით მიიღება, მსჯელობისა და გამომავალი ტოკენების გარეშე, ამიტომ გადახდა მხოლოდ შემავალზეა და პასუხი ჩვეულებრივ წამზე ნაკლებ დროში მოდის. ველების რაოდენობა შეუზღუდავია; თუ ერთ გავლაში შემავალის გვერდით ვერ ეტევიან, სერვერი მათ პარალელურ გავლებად ყოფს და პასუხებს აერთიანებს. Cloudflare-მა Clairic აჩვენა მომხმარებლის მხარდაჭერის წერილზე, გადაღებულ ქვითარზე, სახლის ფასის შეფასებაზე მსგავსი გაყიდვების მიხედვით და TSA-ის საკონტროლო პუნქტებზე ყოველდღიური შემოწმებების რაოდენობის პროგნოზზე. TSA-ის 21-დღიანი პროგნოზების განმავლობაში მოდელი საშუალოდ 3,3 პროცენტით ცდებოდა, ხოლო 21 ფაქტობრივი რაოდენობიდან 17 მის 80 პროცენტიან ინტერვალში მოხვდა.

პაიპლაინი გადაწყვეტილების მოდელებთან და LLM-ებთან

Cloudflare ამოღების მოდელებს გადაწყვეტილების მოდელებთან და LLM-ებთან ერთად როგორც ერთ საფეხურს განიხილავს: Clairic ნედლ შემავალს ტიპიზირებულ მნიშვნელობებად აქცევს, Clef ამ მნიშვნელობებზე დაყრდნობით იღებს გადაწყვეტილებას, LLM კი პასუხს წერს. დაზიანებული პროდუქტის პრეტენზიის ცოცხალ დემო პაიპლაინში კასკადმა მუშაობა 19,3 წამში დაასრულა, მაშინ როცა მხოლოდ LLM-ებზე აგებულ ვერსიას 61,7 წამი დასჭირდა, დაახლოებით 3,2-ჯერ უფრო სწრაფად, მილიონ პრეტენზიაზე 6 032 დოლარის ხარჯით 11 740 დოლარის ნაცვლად. ყოველი საფეხური წინაზე უფრო სუფთა და ტიპიზირებულ შემავალს იღებს, LLM კი ხედავს მხოლოდ გადაწყვეტილებასა და საჭირო ფაქტებს, და არა ნედლ წერილს.

წყაროები: Cloudflare