უკან დაბრუნება
SiTech
Jev — ახალი ტიპის LLM: System One, იგივე Decision Models
SiTech AI Team2 წთ. საკითხავი

Jev — ახალი ტიპის LLM: System One, იგივე Decision Models

TypeSafe AI-ის Jev ტექსტურ გამოსავალს თმობს: არასტრუქტურირებული მონაცემის სანაცვლოდ ის აბრუნებს ალბათობებს, კატეგორიებსა და ნდობის ქულებს — ტოკენურ ფასებზე გაცილებით იაფად.

კომპანია TypeSafe AI-მ გასულ კვირას წარადგინა Jev — მოდელების ახალი კატეგორიის პირველი მაგალითი, რომელსაც კომპანია "System One მოდელებს" უწოდებს. საიმონ უილისონის აზრით, უფრო ზუსტი სახელია "decision models" — გადაწყვეტილების მოდელები; ამ ტერმინს იყენებს დიზაინერი მეგი ეპლტონიც.

Jev ჩვეულებრივი დიდი ენობრივი მოდელის მსგავსად ტექსტურ შეყვანას იღებს, თუმცა ტექსტს საერთოდ არ აბრუნებს: მისი გამოსავალი მცურავი წერტილის რიცხვებია — კატეგორიების, დიახ/არა კითხვებისა და შეფასებებისთვის, ნდობის ქულებთან ერთად. TypeSafe-ის აღწერით, ეს "frontier-intelligence ფუნქციის გამოძახებაა: არასტრუქტურირებული მონაცემი შიგნით, ტიპიზებული ალბათური გადაწყვეტილებები გარეთ".

როგორ მუშაობს Jev

API-სთან მუშაობა გულისხმობს "მდგომარეობის" (state) ობიექტს — სტრიქონი, სტრიქონების მასივი ან სახელ-მნიშვნელობის წყვილები, რომლებიც სტატიას, კლიენტს ან სხვა ჩანაწერს აღწერენ. ობიექტს ერთი ან რამდენიმე კითხვასთან ერთად უგზავნით და თითოეულზე ცალკე პასუხს იღებთ.

არსებობს სამი ტიპის კითხვა. დიახ/არა კითხვები, რომლებსაც Jev "Noul"-ს უწოდებს (დირექტორმა Hacker News-ზე დაადასტურა, რომ სახელი ბერნულის განაწილებიდან მოდის), აბრუნებს 0-დან 1-მდე რიცხვს — რამდენად დარწმუნებულია მოდელი, რომ დებულება ჭეშმარიტია. არჩევანის კითხვები აბრუნებს ნდობის ქულასა და ალბათობის განაწილებას მოცემულ ვარიანტებზე, ქულის კითხვები კი დოკუმენტს აღწერილ რიცხვით დიაპაზონში ათავსებს.

კითხვები პარალელურად მუშავდება, ამიტომ ბევრი კითხვა ერთ დოკუმენტზე დაახლოებით იმავე დროს მოითხოვს, რაც ერთი. ფასებიც უჩვეულოა: იხდით მხოლოდ შეყვანაში — 0,042 დოლარი მილიონ ტოკენზე, გამოსავალი უფასოა. ეს OpenAI-ის GPT-5 Nano-ზეც კი იაფია (0,05 დოლარი მილიონ ტოკენზე).

შავი ყუთები და მიკერძოება

უილისონს პროდუქტის ფორმა მოუხერხებლად მიაჩნია: ის მანქანურ სწავლებას კიდევ უფრო გაუმჭვირვალე "შავი ყუთებისკენ" წევს. ჩვეულებრივ LLM-ს გადაწყვეტილების დასაბუთება მაინც შეიძლება ჰკითხო; Jev მხოლოდ რიცხვს აბრუნებს, ამიტომ ვერაფერი ხსნის, რომელმა შინაარსობრივმა სიგნალებმა მოათავსა დოკუმენტი კონკრეტულ კატეგორიაში. ამიტომ მიკერძოებას აქ უფრო დიდი წონა აქვს — ის იმედოვნებს, რომ მოდელს სამსახურის კანდიდატების რანჟირებისთვის არავინ გამოიყენებს. ერთ ექსპერიმენტში სან-ფრანცისკოს ყურის ყველა ქალაქის შეფასებამ კითხვაზე "კარგი ქალაქია?" პირველ ადგილზე კუპერტინო, ბოლოზე ისტ-პალო-ალტო დააყენა.

რადგან Jev იაფია, ავტორის აზრით შეფასებები და სტრუქტურირებული ექსპერიმენტები ჩვეულებრივ LLM პროექტებზე კიდევ უფრო მნიშვნელოვანია: ასობით ან ათასობით სატესტო მოთხოვნა მხოლოდ რამდენიმე ცენტი ღირს.

საზოგადოების ექსპერიმენტები

რამდენიმე დღეში გამოჩნდა უჩვეულო პროექტები: jevchat (კაილ პენა) Jev-ს ცუდ ჩატბოტად აქცევს, jev-leftpad (ფათიჰ ქადირ აქინი) left-pad-ს საჭირო სივრცეების კითხვით ახორციელებს, jev-2048 (ენდი გეიტონი) კი 2048-ის თავსატეხს თამაშობს.

გამოჩნდა ღია წონებით ხელახალი შექმნებიც, მათ შორის Kev, რომელიც Qwen 3.5-ზე 0.8B, 4B და 9B მოდელებს აშენებს, უკვე არსებობს JevBench ბენჩმარკიც "Jev-კლასის გადაწყვეტილების მოდელების" შესადარებლად — შთამბეჭდავი აქტივობა ერთ კვირაზე ნაკლები ხნის გამოშვებისთვის.

SSiTech

SiTech — AI-გაძლიერებული ვებ დეველოპმენტი

ვქმნით სწრაფ, თანამედროვე ვებსაიტებს და AI-ს ვაერთიანებთ ქართული ბიზნესებისთვის. გაქვთ პროექტი ან კითხვა? სიამოვნებით დაგეხმარებით.