Inception запускає Mercury 3, дифузійну мовну модель, що заявляє 1,068 токенів на секунду

Inception випустила Mercury 3, яку вона описує як найбільш потужну велику мовну модель на основі дифузії на сьогодні. Компанія заявляє, що модель перевершує GPT-6 Luna та Claude Haiku 5.5 за низкою бенчмарків, працюючи в 4-8 разів швидше зі швидкістю понад 1,000 токенів на секунду.

Продуктивність та ціни

Mercury 3 досягає 1,068 токенів на секунду на GPU NVIDIA і підтримує контекстне вікно на 1 мільйон токенів, що є зростанням з 260,000 для Mercury 2.5. Модель більша за Mercury 1 більш ніж у 40 разів, і Inception заявляє, що інтелект за стандартними бенчмарками зріс у 3 рази від Mercury 1 mini до Mercury 3, що свідчить про те, що закони масштабування, відомі для авторегресійних моделей, також справедливі для дифузії.

Ціни встановлено на рівні $0.20 за мільйон вхідних токенів та $0.70 за мільйон вихідних токенів, зі знижкою 50 відсотків на старті, що знижує ці цифри до $0.10 та $0.35. Кешовані токени мають знижку 90 відсотків від ціни вхідних.

Використання у виробництві

Партнери з раннім доступом використовують Mercury 3 для браузерних агентів, інтерактивного навчання, пошуку в реальному часі та підтримки клієнтів. У виробничому середовищі веб-агента на 50 живих завданнях навігації Mind2Web Mercury 3 виконала 50 відсотків з них, що, за словами Inception, значно більше, ніж GPT-6.1-Sol, використовуючи той самий обсяг токенів і ту саму кількість кроків агента за частку вартості за токен.

У сфері освіти General Learning, також відома як RevisionDojo, повідомляє, що підказки, позначені відповіді та визначення тепер повертаються приблизно за секунду. Octen AI виміряла медіанний час генерації 0.9 секунди та медіанний час відповіді «кінець до кінця» 2.2 секунди у своїх тестах Sense API. Lorikeet заявляє, що Mercury 3 обійшла інші моделі за затримкою, а також показала вищі результати на оцінках та у виробництві для регульованої підтримки клієнтів.

Доступність та портфель продуктів

Mercury 3 доступна сьогодні на Inception API Platform та через OpenRouter, Baseten і Vercel. Вона сумісна з OpenAI API, а корпоративні розгортання підтримують виділені потужності, автомасштабування, контроль відповідності та налаштовуване зберігання даних. Компанія пропонує 100 мільйонів безкоштовних токенів для пробних випробувань API.

Цей випуск розширює портфель продуктів реального часу, що включає Mercury Voice, модель, налаштовану для вимог низької затримки голосових застосунків, яка вже живить агентів у Audivi AI, Altur та OpenCall, і Mercury Decide, модель прийняття рішень для класифікації великих обсягів, яка, за словами Inception, перевершує Jev за бенчмарками, включаючи JevBench та LegalBench.

Джерела: Inception