OpenRouter verilerine göre, AI ajanları token kullanımında daha da öne çıkıyor

Ajanlar OpenRouter token hacminde domine ediyor

AI ajanları ağustos ayında OpenRouter üzerinde 7,3 trilyon token üretirken, insan kullanıcılar 1,4 trilyon token kullandı; bu veriler Andreessen Horowitz'in OpenRouter verilerine dayanan grafiğinden geliyor. Futurum Group CEO'su Daniel Newman bu rakamları altı ay sonra açıkladı ve bu, ajan kullanımının insan kullanımını ilk kez aştığını gösteriyor.

OpenRouter Insights lideri Peter Walker'ın grafiği, Şubat eşiğinden bu yana ajanların token kullanımının 14 kat arttığını, insanlarınkinin ise 2,8 kat arttığını gösterdi. Kaynak analizine göre karma kategorisi aynı dönemde 4,7 kat büyüdü. Bu kategori hem ajan hem de insan davranışını içerebileceğinden, ajanların üstünlüğünün boyutu değişebilir.

OpenRouter, her API anahtarını yedi sinyale dayalı ağırlıklı bileşik puan kullanarak ajan, karma veya insan kategorisine atar. Sınıflandırma, araç çağrı sıklığı, adım sayısı ve zaman aralıkları gibi faktörleri dikkate alır.

Güçlü eğilim, ancak pazarın tam ölçütü değil

OpenRouter metrikleri token hacmini ölçer, maliyeti değil ve yalnızca bir platformu kapsar. Eğilim tamamen tutarlı değildi: Nisan ve Temmuz aylarında düşüş kaydedildi, karma trafiğin varlığı ise doğrudan karşılaştırmaları karmaşıklaştırıyor.

McKinsey'in 2026 State of AI anketi, büyük organizasyonlardan katılımcıların %40'ının AI ajanlarını ölçeklendirdiğini gösterdi; bu oran geçen yıl %27'ydi. Newman, AI'nın şu anda ajanları insanlara göre beş kat daha fazla kullandığını ve bunun nihayetinde 10 kata ulaşarak daha da büyüyeceğini öngördü. Bu tahmin hâlâ bir tahmin olarak kalıyor, çünkü OpenRouter verileri yalnızca bir hizmetin aktivitesini kapsıyor.

Önbelleğe alınmış istemler bellek yükünü artırıyor

Ajanların tokenlerinin %85'inden fazlası önbelleğe alınmış istemlerden geldi, a16z OpenRouter verilerine dayanarak açıkladı. Şirket ayrıca, önbelleğe alınmış tokenlerin token kullanımındaki neredeyse tüm oransal artışı oluşturduğunu belirtti. Önbelleğe alınmış istemler, istemi sıfırdan işlemekten daha ucuzdur, ancak depolanan bilginin yine de bellekte kalması gerekir.

Modeller bağlamı KV önbelleğinde saklar, bu da GPU'nun yüksek bant genişliğili bellek kapasitesini aşar. OpenRouter yatırımcısı a16z, bu kısıtlamayı HBM talebindeki artışla bağdaştırıyor. DeepSeek'in Nvidia H200'lerde test edildiği Koltcentris danışmanlık şirketinin logları, ajanlarının Eylül ayında Claude Code'u kullanırken gelen verilerin %96'sının eski sohbetlerin yeniden okunmasıyla ilgili olduğunu gösteriyor. OpenRouter metrikleriyle birlikte bu durum, token sayısının maliyetleri önemli ölçüde aşabileceğini öngörüyor, ancak bellek donanımı maliyeti hâlâ önemli.

Micron, RAM ve depolama cihazlarının eksikliğinin 2027 ve 2028 yıllarında kötüleşeceğini, kullanıcıların ise yıllık ödemelerinden fazlasını ödeyeceğini bekliyor. Bellek üreticileri, AI veri merkezleri için HBM'ye öncelik veriyor, bu da ajan bağlamı için gerekli kapasiteyi diğer kullanıcılarla doğrudan rekabet içine sokuyor.