25 ხაზი Python-ით შექმნილი Jev: პაროდია, რომელიც TypeSafe-ის პრეტენზიებს ეჭვის ქვეშ აყენებს

22 სექტემბერს ღია კოდის პროექტ NobodyWho-ს ავტორმა, Duarte O.Carmo-მ, გამოაქვეყნა პოსტი „Jev 25 ხაზ Python-ში". მასში TypeSafe AI-ის 14 სექტემბრის Jev-ის ძირითადი ქცევა მცირე ლოკალურ მოდელსა და დაახლოებით 25 ხაზ კოდზეა აღდგენილი. პოსტი ღიად არის მონიშნული როგორც პაროდია და ონლაინ დავის ერთ-ერთ საყრდენ ტექსტად იქცა იმაზე, თუ რამდენია Jev-ის უპირატესობაში არქიტექტურა და რამდენი — წვრთნა.

რა გამოაცხადა TypeSafe-მა

TypeSafe AI, რომელიც OpenAI-ის ყოფილმა მკვლევარმა Diogo Almeida-მ დააარსა, 14 სექტემბერს ორწლიანი მუშაობის შემდეგ Jev-ით წარდგა — თავისი პირველი System One მოდელით. Jev ტექსტს სიტყვებად არ წარმოქმნის: ის იღებს არასტრუქტურირებულ მონაცემებსა და ტიპიზებულ კითხვებს, სანაცვლოდ კი სტრუქტურირებულ პასუხებს აბრუნებს კალიბრირებული ალბათობებითა და სანდოობის ქულებით. კომპანია მოდელს RLCD (Reinforcement Learning for Calibrated Decisions) მეთოდით წვრთნის და აცხადებს, რომ ის შედარებით LLM-ებზე ორი რიგით სწრაფი და იაფია: 70–500 მილიწამი პასუხზე წამყვანი მოდელების 3–329 წამის წინააღმდეგ, მილიონ შემავალ ტოკენზე 0,042 დოლარი, გამომავალი კი უფასოა. TypeSafe-ის მტკიცებით, რადგან შესაძლო პასუხები წინასწარ არის განსაზღვრული, Jev ვერც ტიპურ შეცდომას უშვებს და ვერც ჰალუცინაციას. სახელი System One დანიელ კანემანის „სწრაფ აზროვნებას" მიუთითებს, მოდელი კი ეკონომისტ უილიამ სტენლი ჯევონსის სახელს ატარებს.

რა შეუძლია 25 ხაზს

NobodyWho-ს პოსტი Qwen3-0.6B-ს — 0,6 მილიარდი პარამეტრის მქონე ღია მოდელს — llama-cpp-python-ის მეშვეობით ტვირთავს, აძლევს ხელფასის გადარიცხვის სახელით გამოგზავნილ საეჭვო წერილს სამი მონიშნული პასუხით და „A", „B", „C" ტოკენების ლოგიტებს კითხულობს, რომლებსაც log-softmax-ით ალბათობებად გარდაქმნის: Legitimate 3,1%, Spam 8,4%, Phishing 88,5%. არავითარი API-გამოძახება, reinforcement learning ან სინთეზური მონაცემები — და ინფორმაცია კომპიუტერს არ ტოვებს. ავტორი აღნიშნავს, რომ პოსტი პაროდიაა, და მკითხველს ღია იმპლემენტაციებზე გადაამისამართებს: OpenJev, openjev-sglang და OpenJev-ის ვერსია DiffusionGemma-ზე.

რატომ არის ეს მნიშვნელოვანი

პოსტმა Hacker News-ზე 450 ქულას გადააჭარბა — არა იმიტომ, რომ Jev-ს უარყოფს, არამედ იმიტომ, რომ გამოყოფს ინფერენსის ხერხს: ტექსტის ნაკადის ნაცვლად რამდენიმე მონიშვნის ტოკენის ალბათობების წაკითხვას. Arcturus Labs 16 სექტემბერს მსგავს დაკვირვებას აქვეყნებს: დახვეწილი LLM, რომლის ლოგალბათობებიც პირდაპირ იკითხება მონიშვნის ტოკენებზე, Jev-ის ქცევის დიდ ნაწილს იმეორებს — ანალიზი ამ მიდგომას დეველოპერ Harsha Gundala-ს მიაწერს. კვლევა უფრო რთულ კითხვებს ღიად ტოვებს: Jev ერთ პარალელურ გავლაზე ბევრ კითხვას პასუხობს, 25-ხაზიანი ვერსია კი მხოლოდ ერთს, ხოლო კალიბრაციის პრეტენზია RLCD-ს ეყრდნობა, რომლის განმარტებასაც TypeSafe ჯერ არ აქვეყნებს. რეალურ სამყაროში სიზუსტე ჯერჯერობით დაუდასტურებელია.