Назад
SiTech
Jev — LLM нової форми: System One, він же Decision Models
SiTech AI Team3 წთ. საკითხავი

Jev — LLM нової форми: System One, він же Decision Models

Jev від TypeSafe AI відмовляється від текстової відповіді: на виході — числа, ймовірності, категорії та оцінки впевненості, і все це дешевше за звичайні токенні ціни.

Компанія TypeSafe AI минулого тижня представила Jev — перший приклад нової категорії моделей, яку компанія називає "System One". Саймон Віллісон вважає точнішою назву "decision models" (моделі рішень), і цей термін використовує також дизайнерка Меґі Еплтон.

Jev приймає текстовий вхід, як звичайна велика мовна модель, але тексту не повертає взагалі: його вихід — числа з плаваючою комою для категорій, запитань "так/ні" та оцінок, разом із показниками впевненості. TypeSafe описує його як "виклик функції frontier-інтелекту: неструктуровані дані на вході, типізовані ймовірнісні рішення на виході".

Як працює Jev

Робота з API починається зі складання об'єкта "стану" (state) — рядка, масиву рядків або пар "ім'я-значення", що описують статтю, клієнта чи інший запис. Його надсилають з одним або кількома запитаннями, і кожне отримує окрему відповідь.

Є три типи запитань. Запитання "так/ні", які Jev називає "Noul" (директор підтвердив на Hacker News, що назва походить від розподілу Бернуллі), повертають число від 0 до 1 — наскільки модель упевнена, що твердження істинне. Запитання вибору повертають оцінку впевненості та розподіл імовірностей за поданими варіантами, а запитання оцінки розміщують документ у описаному числовому діапазоні.

Запитання обробляються паралельно, тож багато з них до одного документа займають приблизно стільки ж часу, скільки одне. Ціни теж незвичні: платять лише за вхід — 0,042 долара за мільйон токенів, вихід безкоштовний. Це дешевше навіть за GPT-5 Nano від OpenAI (0,05 долара за мільйон).

Чорні скриньки та упередження

Віллісону форма продукту здається незручною: вона штовхає машинне навчання ще далі в бік непрозорих "чорних скриньок". Звичайну LLM принаймні можна попросити обґрунтувати рішення; Jev повертає лише число, тож ніщо не пояснює, які сигнали в тексті перевели документ у певну категорію. Тому упередженість тут важить більше — він сподівається, що ніхто не використає модель для ранжування кандидатів на роботу. В одному експерименті оцінювання всіх міст затоки Сан-Франциско на запитання "Гарне місто?" поставило Купертіно першим, а Іст-Пало-Альто — останнім.

Оскільки Jev дешевий, автор твердить, що оцінювання та структуровані експерименти важать навіть більше, ніж у звичайних LLM-проєктах: сотні чи тисячі тестових запитів коштують лише кілька центів.

Експерименти спільноти

За кілька днів з'явилися незвичні проєкти: jevchat від Кайла Пени робить із Jev поганий чатбот, jev-leftpad від Фатіха Кадіра Акіна реалізує left-pad через запитання про кількість пробілів, а jev-2048 від Енді Ґейтона грає в головоломку 2048.

З'явилися й відтворення на відкритих вагах, зокрема Kev на базі Qwen 3.5 з моделями 0,8B, 4B і 9B, а бенчмарк JevBench уже порівнює "decision-моделі класу Jev" — надзвичайна активність для релізу, якому ще немає тижня.

SSiTech

SiTech — веброзробка з підтримкою AI

Створюємо швидкі та сучасні сайти й інтегруємо AI у бізнес-процеси. Маєте проєкт чи запитання? Із задоволенням допоможемо.