Amazon випустила аналог Jev — Strands Decider 2B

1 жовтня Amazon Web Services представила відкриту модель Strands Decider 2B. Вона замість генерації тексту обирає серед наперед визначених варіантів і оцінює надійність відповіді балом. Того ж тижня OpenAI представила схожий Decisions API в обмеженому режимі.

Модель побудована на ідеї Jev від TypeSafe. Провідний інженер Amazon Marc Brooker створив власну версію, яка ненадовго посіла перше місце серед моделей свого розміру в рейтингу JevBench. Amazon очистила проєкт, і Strands Labs його випустила.

Як це працює

Strands Decider 2B побудована на відкритій моделі Alibaba Qwen3.5-2B: AWS прибрала частину генерації тексту й замінила її механізмом, який оцінює запропоновані відповіді. Вона має трохи більш ніж мільйон параметрів, а основне тіло використовує rank-16 LoRA адаптер. Через обмежений простір відповідей модель не може вигадати варіант, якого ніхто не пропонував.

Наприклад, користувач запитує про погоду без назви міста: агент припускає місто й планує викликати погодний інструмент, але перед викликом Decider перевіряє, чи аргументи опираються на розмову. Перевірка проходить через систему втручання Strands: виклик може продовжитися або бути забороненим. У демонстрації Decider працює локально.

Результати

На публічному зборі JevBench, за словами AWS, модель посідає друге місце серед публічних моделей приблизно з 2 мільярдами параметрів, а перше — серед тих, хто публікує повний рецепт тренування. На всі питання простого рівня вона відповідає правильно, а рішення ухвалює менш ніж за 100 мілісекунд на NVIDIA RTX 3090. До випуску входять також тренувальні дані й скрипти.

Чому це важливо

Jev від TypeSafe вийшов кілька тижнів тому й започаткував хвилю схожих моделей: за ним пішли Kev, imajev, Laya та інші проєкти, а тепер долучаються й великі компанії. На думку Brooker, виклик полягає в покращенні швидких рішень без шкоди інтелекту; а створення цікавої для малого ринку моделі коштує сотні або тисячі доларів.

TypeSafe зараз працює над майбутніми моделями. Засновник і CEO Diogo Almeida сказав TechCrunch: „Я розумію, що людям це здається золотою лихоманкою, але вони можуть недооцінювати, наскільки складно зробити моделі справді розумними“. Залишається відкритим питання, чи буде модель доступна також у хмарі AWS.

Джерела: TechCrunch · The New Stack · Techmeme