TypeSafe AI представила System One Models і Jev

Стартап TypeSafe AI, який два роки працював у режимі стелс, оголосив про випуск першої моделі класу System One — нового покоління фронтирних моделей, призначених ухвалювати швидкі структуровані рішення, які програмне забезпечення може використовувати напряму. Перша публічна модель, Jev, уже доступна в режимі раннього доступу. Оголошення написав засновник компанії Діогу Алмейда, який раніше працював в OpenAI над методами, що зробили мовні моделі придатними до виконання інструкцій.

Від рядків до типізованих рішень

Jev не генерує текст. Його вивід — це захищені типами структуровані значення, форма й можливі відповіді яких визначені заздалегідь, тож модель не може припуститися помилки типу; за словами компанії, ця гарантія математична, а не емпірична. Кожна відповідь супроводжується каліброваними ймовірностями та оцінками впевненості. Алмейда описує модель як виклик функції фронтирного інтелекту: неструктурований стан на вході, типізовані ймовірнісні рішення на виході.

TypeSafe доводить, що вузьким місцем автоматизації є не інтелект, а інтерфейс. Рядок може бути відповіддю в чаті, кодом, відмовою чи галюцинацією, і будь-яка програма, що його споживає, мусить розібрати та перевірити результат. Оскільки вивід обмежений, Jev має вбудовуватися у звичайний код як нечітке правило рішення — класифікувати, маршрутизувати, оцінювати, витягувати або розгалужувати там, де написана вручну логіка надто крихка.

RLCD, паралельний семплер і опубліковані цифри

Стек побудований на новій архітектурі, паралельному семплері та методі навчання, який компанія називає Reinforcement Learning for Calibrated Decisions, — замість навчання з людським зворотним зв'язком і верифікованими винагородами. Заявлена різниця — у масштабі: Jev повертає всі виводи одним запитом, а не генерує по одному токену. TypeSafe публікує ціну вхідних токенів 0,042 долара за мільйон, вихідні токени безкоштовні, а час відповіді — від 70 до 500 мілісекунд проти 3–329 секунд у фронтирних моделей, тобто прискорення від 40 до 200 разів.

На головній сторінці компанія наводить цифри 193,6x швидше та 444,6x дешевше — вони взяті з оцінювання робочих процесів, де кожна модель отримує той самий обчислювальний граф, а прогнози порівнюються із середнім двох референсних моделей. TypeSafe зауважує, що процеси створила власна команда, що референсні відповіді зміщені в бік моделей OpenAI та Anthropic, тож до власних результатів слід ставитися обережно.

Демо та назва

Команда показала Jev у Doom, де він грає зі структурованого стану гри приблизно з десятьма запитами на секунду й вартістю близько 7 доларів на годину, та у Wikiracing, де кожен крок — вибір із сотень чи тисяч посилань; понад 255 варіантів модель обробляє двоетапною схемою: спершу оцінює, потім робить явний вибір. Назви походять від «Мислення швидке й повільне» Деніела Канемана для класу моделей і від Вільяма Стенлі Джевонса для Jev — економіста, чий парадокс полягав у тому, що дешевше вугілля не зменшило його споживання. TypeSafe робить таку саму ставку на інтелект: кожен порядок зниження вартості відкриває нові застосування.