Տոկենները՝ չափազանց էժան հաշվելու համար. ինչու է AI-ի արժեքը ընկնում

jyn.dev-ում հրապարակված հոդվածը պնդում է, որ մեքենայական ուսուցման ինտելեկտի գինը տարեկան մի քանի կարգով ընկնում է և դանդաղելու նշան չի ցուցաբերում, իսկ սահմանափակող գործոնը տոկենների քանակը չէ, այլ որակն ու հասանելիությունը։

Ապացույցներ

Հոդվածում հիշատակված Epoch AI-ի տվյալները ցույց են տալիս, որ GPU-ների էներգաարդյունավետությունը աճում է էքսպոնենցիալ. լոգարիթմական գրաֆիկում միտումի թեքությունը մոտ 1.3 է, այսինքն արդյունավետությունը կրկնապատկվում է մոտավորապես երկու տարին մեկ՝ տեմպ, որը չէր դիտվել Moore-ի օրենքից ի վեր։

Frontier մոդելների մեկ տոկենի գինը հետևողականորեն չի նվազում, սակայն մեկ առաջադրանքը կատարելու արժեքը նվազում է։ Artificial Analysis-ի pareto կորում 2026 թվականին ինտելեկտի առանցքը նման է 2025-ին, մինչդեռ արժեքի առանցքը 2025-ի ընթացքում դարձել է երկու կարգով ավելի էժան։

Ինֆերենսի շարժիչները տարեկան բարելավվում են 10–50%-ով. vLLM 0.11.1-ը (2025 թ. դեկտեմբեր) 0.5.4-ի (2024 թ. սեպտեմբեր) համեմատ մեկ տոկենի վրա ծախսում է մոտ 40%-ով քիչ ջոուլ, իսկ NVIDIA-ն MLPerf 2.0-ից 2.1-ում հայտնում է մինչև 50% արդյունավետության աճ։ Փոխվում են նաև ճարտարապետությունները. Mixture-of-Experts-ը անջատում է ավելորդ փորձագիտական շերտերը, և մոդելը նույն որակի դեպքում կարող է 7 անգամ փոքր լինել (6B-ից՝ 0.8B պարամետր)։

Որտեղից է գալիս «չափազանց էժան հաշվելու համար»

TypeSafe AI-ի Jev-ը տեքստ չի արտադրում. այն ընտրում է նախապես տրված տարբերակներից և վերադարձնում է հավանականություն։ Ընկերության գնային էջում սովորական LLM-ները մեկ միլիոն մուտքային տոկենի համար արժեն 0.20–10 դոլար, իսկ ելքայինը՝ մոտ հինգ անգամ ավելի, մինչդեռ System One + Jev-ը՝ 0.042 դոլար մեկ միլիոնի համար, այսինքն 42 դոլար մեկ միլիարդ տոկենի, ելքային տոկենները՝ անվճար։ Սա հինգ գիրք կարդալու համար մոտ երեք ցենտ է։

Գործիքներն արդեն օգտվում են դրանից. jgrep-ը հավանականությունը վերադարձնում է մոտ 200 միլիվայրկյանում և մոտ հազարերորդ ցենտով, իսկ բաց կշիռներով Laya-ն աշխատում է տեղում։

Ինչ է սա փոխում

Հոդվածը մոդելի մեկ քայլը համեմատում է նաև տեղային գործիքների հետ. GPT-5.6 Luna-ն արժե մոտ 30 ցենտ մեկ միլիոն տոկենի համար, այսինքն՝ գործիքի կանչի որոշումը մեկ երրորդ ցենտ, իսկ grep-ը մոտ 4.5 կարգով ավելի էժան է։ Հեղինակը պղպջակի պայթյուն չի սպասում. էժան ծավալը որակը էժան չի դարձնում, և OpenAI-ը շարունակում է կառուցել՝ հինգ նոր Stargate հարթակ։

Նա սպասում է, որ անվտանգությունը կբարդանա, կաճի օպտիմիզացված GPU-ների վարձույթը, և դժվարը կդառնա ոչ թե ալգորիթմը, այլ ապրանքի պահանջները, թեստավորումն ու ինտերֆեյսի դիզայնը։ Օգտատերերը ստանում են չորրորդ տարբերակ՝ խնդրել LLM-ին կառուցել այն։