OpenRouter-ის მონაცემებით, AI-აგენტები ტოკენების გამოყენებაში უფრო მეტად ლიდერობენ

აგენტები დომინირებენ OpenRouter-ის ტოკენების მოცულობაში

AI-აგენტებმა აგვისტოში OpenRouter-ზე 7,3 ტრილიონი ტოკენი დააგენერირეს, ადამიანმა მომხმარებლებმა კი 1,4 ტრილიონი, იუწყება Andreessen Horowitz-ის ჩარტი, რომელიც OpenRouter-ის მონაცემებს ეყრდნობა. Futurum Group-ის CEO დენიელ ნიუმენმა ეს ციფრები ექვსი თვის შემდეგ მოიხსენია, რაც აგენტების გამოყენებამ ადამიანებისას პირველად გადააჭარბა.

OpenRouter-ის ინსაითების ხელმძღვანელის, პიტერ უოკერის, ჩარტმა აჩვენა, რომ თებერვლის გადაკვეთის წერტილიდან მოყოლებული, აგენტების მიერ ტოკენების გამოყენება 14-ჯერ გაიზარდა, ადამიანებისა კი 2,8-ჯერ. შერეული კატეგორია ამავე პერიოდში 4,7-ჯერ გაიზარდა, წყაროს ანალიზის მიხედვით. ვინაიდან ეს კატეგორია შესაძლოა მოიცავდეს როგორც აგენტის, ისე ადამიანის ქცევას, აგენტების უპირატესობის ზომა შეიძლება იცვლებოდეს.

OpenRouter ყოველ API გასაღებს ანიჭებს აგენტურ, შერეულ ან ადამიანურ კატეგორიას შვიდ სიგნალზე დაფუძნებული შეწონილი კომპოზიტური ქულის გამოყენებით. კლასიფიკაცია ითვალისწინებს ისეთ ფაქტორებს, როგორიცაა ხელსაწყოს გამოძახების სიხშირე, ნაბიჯების რაოდენობა და დროითი ინტერვალები.

ძლიერი ტენდენცია, მაგრამ არა ბაზრის სრული საზომი

OpenRouter-ის მაჩვენებლები ზომავს ტოკენების მოცულობას და არა ხარჯებს, და მოიცავს მხოლოდ ერთ პლატფორმას. ტენდენცია სრულად თანმიმდევრული არ იყო: აპრილსა და ივლისში კლება დაფიქსირდა, შერეული ტრაფიკის არსებობა კი პირდაპირ შედარებებს ართულებს.

McKinsey-ის 2026 წლის State of AI გამოკითხვამ აჩვენა, რომ დიდი ორგანიზაციების რესპონდენტების 40%-მა განაცხადა AI-აგენტების მასშტაბირებაზე, წინა წლის 27%-ის წინააღმდეგ. ნიუმენი წერდა, რომ AI-ს ამჟამად აგენტები ადამიანებზე ხუთჯერ მეტად იყენებენ და იწინასწარმეტყველა, რომ ეს ჯერადი 10-ს მიაღწევს და კიდევ გაიზრდება. ეს პროგნოზი კვლავ პროგნოზად რჩება, ხოლო OpenRouter-ის მონაცემები მხოლოდ ერთი სერვისის აქტივობას მოიცავს.

ქეშირებული პრომპტები მეხსიერების დატვირთვას ზრდის

აგენტების ტოკენების 85%-ზე მეტი ქეშირებული პრომპტებიდან მოვიდა, თქვა a16z-მა OpenRouter-ზე დაყრდნობით. კომპანიამ ასევე განაცხადა, რომ ქეშირებული ტოკენები შეადგენდა ტოკენების გამოყენების თითქმის მთელ ფარდობით ზრდას. ქეშირებული პრომპტები ნაკლები ღირს, ვიდრე პრომპტის ნულიდან დამუშავება, მაგრამ შენახული ინფორმაცია მაინც უნდა დარჩეს მეხსიერებაში.

მოდელები კონტექსტს KV-ქეშში ინახავენ, რომელიც GPU-ს მაღალი გამტარობის მეხსიერების მოცულობას აღემატება. a16z, OpenRouter-ის ინვესტორი, ამ შეზღუდვას HBM-ზე მოთხოვნის ზრდას უკავშირებს. ქოლცენტრის კონსულტაციის კომპანიის ლოგები, რომელიც DeepSeek-ს ნაქირავებ Nvidia H200-ებზე ტესტავდა, აჩვენებს, რომ მისი აგენტების მიერ სექტემბერში Claude Code-ზე გამოყენებისას მთელი შემავალი მონაცემების 96% ძველი საუბრების ხელახლა წაკითხვას ეხებოდა. OpenRouter-ის მაჩვენებლებთან ერთად ეს ვარაუდობს, რომ ტოკენების რაოდენობამ შეიძლება გადაჭარბებით წარმოაჩინოს გადასახდელები, თუმცა მეხსიერების აპარატურის ხარჯი კვლავ მნიშვნელოვანია.

Micron-ი ელოდება, რომ RAM-ისა და შესანახი მოწყობილობების დეფიციტი 2027 და 2028 წლებში გაუარესდება, მომხმარებლები კი წელს გადახდილზე მეტს გადაიხდიან. მეხსიერების მწარმოებლები AI მონაცემთა ცენტრებისთვის HBM-ს პრიორიტეტს ანიჭებენ, რითაც აგენტის კონტექსტისთვის საჭირო მოცულობა სხვა მომხმარებლებთან პირდაპირ კონკურენციაშია.