OpenRouter-ի տվյալներով՝ AI-գործակալները տոկենների օգտագործման մեջ ավելի առաջատար են

Գործակալները գերիշխում են OpenRouter-ի տոկենների ծավալում

AI-գործակալները օգոստոսին OpenRouter-ում գեներացրել են 7,3 տրիլիոն տոկեն, իսկ մարդ օգտատերերը՝ 1,4 տրիլիոն, հաղորդում է Andreessen Horowitz-ի չարթը, որը հիմնվում է OpenRouter-ի տվյալների վրա։ Futurum Group-ի CEO Դենիել Նյումենը այս թվերը նշել է վեց ամիս անց, երբ գործակալների օգտագործումը առաջին անգամ գերազանցեց մարդկանց օգտագործմանը։

OpenRouter-ի Insights-ի ղեկավար Պիտեր Ուոքերի չարթը ցույց տվեց, որ փետրվարի հատման կետից սկսած՝ գործակալների կողմից տոկենների օգտագործումը աճել է 14 անգամ, իսկ մարդկանցը՝ 2,8 անգամ։ Խառը կատեգորիան նույն ժամանակահատվածում աճել է 4,7 անգամ՝ ըստ աղբյուրի վերլուծության։ Քանի որ այս կատեգորիան կարող է ներառել ինչպես գործակալի, այնպես էլ մարդու վարքագիծ, գործակալների առավելության չափը կարող է փոխվել։

OpenRouter-ը յուրաքանչյուր API բանալու շնորհում է գործակալային, խառը կամ մարդկային կատեգորիա՝ յոթ ազդանշանների վրա հիմնված կշռված կոմպոզիտային միավորի օգտագործմամբ։ Դասակարգումը հաշվի է առնում այնպիսի գործոններ, ինչպիսիք են գործիքի կանչերի հաճախականությունը, քայլերի քանակը և ժամանակային ինտերվալները։

Ուժեղ միտում, բայց ոչ ամբողջ շուկայի չափանիշ

OpenRouter-ի ցուցանիշները չափում են տոկենների ծավալը, ոչ թե ծախսերը, և ընդգրկում են միայն մեկ հարթակ։ Միտումը ամբողջովին հետևողական չէր. ապրիլին և հուլիսին անկում գրանցվեց, իսկ խառը տրաֆիկի առկայությունը ուղղակի համեմատությունները բարդացնում է։

McKinsey-ի 2026 թվականի State of AI հարցումը ցույց տվեց, որ խոշոր կազմակերպությունների հարցվածների 40%-ը հայտնել է AI-գործակալների մասշտաբավորման մասին՝ նախորդ տարվա 27%-ի համեմատ։ Նյումենը գրել է, որ ներկայումս գործակալները AI-ն օգտագործում են մարդկանցից հինգ անգամ ավելի, և կանխատեսել է, որ այդ բազմապատիկը կհասնի 10-ի և հետագայում էլ կաճի։ Այս կանխատեսումը դեռ մնում է կանխատեսում, իսկ OpenRouter-ի տվյալները ընդգրկում են միայն մեկ ծառայության ակտիվությունը։

Քեշավորված պրոմպտները մեծացնում են հիշողության ծանրաբեռնվածությունը

Գործակալների տոկենների 85%-ից ավելին եկել է քեշավորված պրոմպտներից, ասել է a16z-ը՝ հիմնվելով OpenRouter-ի վրա։ Ընկերությունը նաև հայտնել է, որ քեշավորված տոկենները կազմել են տոկենների օգտագործման գրեթե ողջ հարաբերական աճը։ Քեշավորված պրոմպտներն ավելի քիչ արժեն, քան պրոմպտի զրոյից մշակումը, սակայն պահված տեղեկատվությունը դեռ պետք է մնա հիշողության մեջ։

Մոդելները կոնտեքստը պահում են KV-քեշում, որը գերազանցում է GPU-ի բարձր թողունակության հիշողության ծավալը։ a16z-ը՝ OpenRouter-ի ներդրողը, այս սահմանափակումը կապում է HBM-ի պահանջարկի աճի հետ։ Զանգերի կենտրոնների խորհրդատվությամբ զբաղվող ընկերության լոգները, որը DeepSeek-ը փորձարկում էր վարձակալված Nvidia H200-ներով, ցույց են տալիս, որ սեպտեմբերին իր գործակալների կողմից Claude Code-ի օգտագործման ժամանակ մուտքային բոլոր տվյալների 96%-ը վերաբերում էր հին զրույցների կրկին ընթերցմանը։ OpenRouter-ի ցուցանիշների հետ միասին սա հուշում է, որ տոկենների քանակը կարող է չափազանցված ներկայացնել վճարման ենթակա գումարները, թեև հիշողության սարքաշարի ծախսը դեռևս էական է։

Micron-ը սպասում է, որ RAM-ի և պահեստավորման սարքերի դեֆիցիտը 2027 և 2028 թվականներին կվատանա, իսկ օգտատերերը կվճարեն ավելի շատ, քան վճարել են այս տարի։ Հիշողություն արտադրողները AI տվյալների կենտրոնների համար HBM-ին առաջնահերթություն են տալիս, ինչի պատճառով գործակալի կոնտեքստի համար անհրաժեշտ ծավալը ուղիղ մրցակցության մեջ է այլ օգտատերերի հետ։