Cloudflare додав Clef-omni, знизив ціну Clef-flash та прискорив Clef

Clef-omni отримує аудіо та відео

Cloudflare представив Clef-omni — модель з відкритими вагами для генерації рішень, яка одним запитом приймає аудіо у форматах wav або mp3, відео mp4 або webm, зображення та текст. За словами компанії, це переносить моделі генерації рішень за межі текстоорієнтованого підходу, який закріпився після дебюту Jev від TypeSafe, і більше не вимагає ланцюгового використання конвеєрів перетворення мови в текст або розбиття медіа перед генерацією рішення. Ваги доступні на Hugging Face.

За словами Cloudflare, Clef-omni побудований на основі суміші експертів Qwen3-Omni-30B-A3B-Instruct. Він зберігає базовий механізм прийняття рішень і більше не використовує вихідні компоненти перетворення тексту в мовлення. Під час генерації модель виконує швидкий prefill-прохід по всьому payload, одночасно оцінює всі модальності та валідні варіанти параметрів і пропускає генерацію вихідних токенів, оскільки моделі Clef не є великими мовними моделями. Аудіо та відео вбудовуються в єдину послідовність разом із візуальними кадрами для сукупної обробки, після чого кандидатські значення витягуються з внутрішніх embeddings двокроковою attention-маршрутизацією з оцінкою, обмеженою лексико-граматичною схемою.

Ціни та зміна контекстного вікна

Ціна Clef-flash тепер становить $0,038 за мільйон вхідних токенів замість $0,09. За словами Cloudflare, оптимізації роблять Clef-flash дешевшим за Jev із збереженням продуктивності. Clef лишається на рівні $0,24 за мільйон вхідних токенів, а стартова ціна Clef-omni становить $0,15 за мільйон вхідних токенів. Контекстне вікно Clef-flash, розгорнутого на хостингу, тепер становить 24k замість раніше анонсованих 64k. За словами Cloudflare, ваги на Hugging Face незмінні та навчені на підтримку 256k для самостійного хостингу, тоді як дані використання показують, що лише 0,24% запитів перевищують 24k вхідних токенів. Clef лишається на 64k.

Швидше обслуговування та оголошені результати

За даними Cloudflare, інференс Clef, розгорнутого на Workers AI, швидший без ваг нової моделі; компанія приписує це доробленню сервісної інфраструктури, наприклад переходу на SGLang. Компанія разом із командою SGLang працювала над pull request-ами для підтримки Clef, зокрема PR #42721, який заплановано випустити в SGLang 0.5.22. Оголошена медіана та p95-затримка зменшилися з 262 та 438 ms до 152 та 351 ms приблизно на 800 токенах, з 616 та 777 ms до 305 та 531 ms приблизно на 3 400 токенах і з 2 721 та 3 250 ms до 1 635 та 1 805 ms приблизно на 16 000 токенах.

Серед оголошених результатів Clef-omni — 98,2 за BFCL у режимі case exact та 73,2 за точністю PhishNChips, хоча Cloudflare зазначає, що результати відрізняються залежно від бенчмарків. Серед внутрішніх випадків використання, перерахованих Cloudflare, — виявлення спамних issue у їхньому публічному репозиторії docs на GitHub, модерація фішингу для бібліотек плагінів EmDash, сканування на запобігання втраті даних для урядових ID та інших PII, а також виявлення шкідливих доменів під час моніторингу загроз. Clef описується як повністю сумісний з Jev API та доступний через AI Gateway зі заміною ID моделі.

Джерела: The Cloudflare Blog