За даними OpenRouter, AI-агенти більше лідерують у використанні токенів

Агенти домінують у обсязі токенів OpenRouter

AI-агенти у серпні згенерували 7,3 трильйони токенів на OpenRouter, а користувачі-люди — 1,4 трильйони, повідомляє діаграма Andreessen Horowitz, яка спирається на дані OpenRouter. CEO Futurum Group Денієл Ньюмен назвав ці цифри через шість місяців, коли використання агентами вперше перевищило людське.

Діаграма керівника інсайтів OpenRouter Пітера Вокера показала, що з моменту перетину у лютому використання токенів агентами зросло в 14 разів, а людьми — у 2,8 рази. Змішана категорія за той самий період зросла у 4,7 разів, згідно з аналізом джерела. Оскільки ця категорія може включати як поведінку агента, так і людину, величина переваги агентів може змінюватися.

OpenRouter призначає кожному API-ключу агентурну, змішану або людську категорію за допомогою зваженої композитної оцінки на основі семи сигналів. Класифікація враховує такі фактори, як частота викликів інструментів, кількість кроків та часові інтервали.

Сильна тенденція, але не повний показник ринку

Показники OpenRouter вимірюють обсяг токенів, а не витрати, і охоплюють лише одну платформу. Тенденція не була повністю послідовною: у квітні та липні зафіксовано спад, а існування змішаного трафіку прямо ускладнює порівняння.

Опитування McKinsey State of AI 2026 року показало, що 40% респондентів з великих організацій заявили про масштабування AI-агентів, на противагу 27% у минулому році. Ньюмен писав, що AI зараз використовується агентами в п'ять разів більше, ніж людьми, і прогнозував, що цей показник досягне 10 разів і ще зросте. Цей прогноз залишається прогнозом, а дані OpenRouter охоплюють лише активність одного сервісу.

Кешовані промпти збільшують навантаження на пам'ять

Понад 85% токенів агентів надійшло з кешованих промптів, заявив a16z на основі даних OpenRouter. Компанія також заявила, що кешовані токени становили майже весь пропорційний ріст використання токенів. Кешовані промпти коштують менше, ніж обробка промпту з нуля, але збережена інформація все одно повинна залишатися в пам'яті.

Моделі зберігають контекст у KV-кеші, який перевищує ємність високопропускної пам'яті GPU. a16z, інвестор OpenRouter, пов'язує це обмеження зі зростанням попиту на HBM. Логи консалтингової компанії Colcentри, яка тестувала DeepSeek на заміну Nvidia H200, показують, що при використанні її агентами Claude Code у вересні 96% вхідних даних стосувалося повторного читання старих розмов. Разом із показниками OpenRouter це припускає, що кількість токенів може надмірно представляти витрати, хоча вартість апаратного забезпечення пам'яті залишається значною.

Micron очікує, що дефіцит RAM і накопичувачів погіршиться у 2027 та 2028 роках, а користувачі платитимуть більше, ніж за рік. Виробники пам'яті надають пріоритет HBM для AI-центрів даних, через що ємність, необхідна для контексту агента, є у прямій конкуренції з іншими користувачами.