Ornn Data-ի ուսումնասիրությունը՝ բաց կշիռներով մոդելների պահանջարկը երկարացնում է հին GPU-ների տնտեսական կյանքը

Ornn Data ընկերությունը հրապարակել է «The Economics of Open-Weight Inference» հետազոտական աշխատանքը, որում պնդում է՝ NVIDIA-ի նոր սերնդի ի հայտ գալը ինքնին տնտեսապես հնացած չի դարձնում նախորդին։ Հետազոտությունը դիտարկում է բաց կշիռներով մոդելների պահանջարկի ազդեցությունը Ampere-ից մինչև Blackwell հին GPU-ների օգտակար կյանքի վրա։

Հոսթինգ և առաջադրանքի արժեքը

Փակ մոդելների հասանելիությունը կառավարվում է բաժանորդագրության սահմանաչափերով, որոնք մատակարարը կարող է վերանայել, ուստի հրապարակված տոկենի սակագինը լրացուցիչ օգտագործման սահմանային գինն է։ Artificial Analysis Intelligence Index-ում տասնմեկ բաց և ութ փակ մոդելների համեմատության ժամանակ ամենաէժան համապատասխան բաց մոդելը, ինտելեկտով նորմալացված, առաջադրանքը կատարում է մոտավորապես հինգ անգամ ավելի էժան, քան համադրելի փակ մոդելը։ Հեղինակները սահմանափակում են պնդումը. առավելությունը երևում է միայն մի քանի ընտրված շեմերում, ոչ բոլորում, իսկ տիրույթի վերին հատվածում փակ ֆրոնտը դեռ առաջ է։

Ինքնահոսթինգ վարձակալված սարքավորումներում

Ինքնահոսթինգը հրապարակված մեկ տոկենի գին չունի։ Ornn-ը հաշվարկում է այն որպես իր spot ինդեքսի GPU-ժամի վարձավճար՝ բաժանված օպերատորի ձեռք բերած թողունակության վրա՝ հաշվի առնելով արդյունավետ օգտագործումը և պահուստը։ Ամբողջական ծանրաբեռնվածության դեպքում հաշվարկային ծախսը կազմում է 0,12-0,35 դոլար միլիոն ելքային տոկենի համար։ Սարքավորումների դասակարգումը փոխվում է ըստ ծանրաբեռնվածության. 5,1 միլիարդ ակտիվ պարամետրով sparse մոդել gpt-oss-120b-ի վրա A100-ը ելքն ավելի էժան է արտադրում, քան H100-ը, իսկ խիտ Llama-2-70B-ի համեմատությունը նպաստում է նոր սարքավորմանը։ Ornn-ը նշում է, որ sparse տվյալները գալիս են տարբեր երրորդ կողմերի կարգավորումներից, իսկ խիտ A100-ի տողը գնահատական է։

Ինչ է ցույց տալիս վարձակալության շուկան

Ornn-ը հրապարակում է օրական վարձակալության ինդեքս և մինչև հինգ տարվա ժամկետային գներ։ A100-ի հինգ տարվա գինը պահպանում է մեկամսյա գնի 80,2%-ը, մինչդեռ Hopper-ում այդ ցուցանիշը 43,7-59,8% է, իսկ Blackwell-ում՝ 53,8%, այն պայմանագրով, որը կավարտվի Ampere ընտանիքի 11,3 տարեկանում։ A100-ի զբաղվածությունը 2026 թվականի մարտի 1-ի 74%-ից սեպտեմբերի 1-ը հասել է 90%-ի, ցանկում նշված հզորությունն աճել է 13%-ով, իսկ spot ինդեքսը՝ 20%-ով, ուստի ընտանիքի ուժը չի կարելի բացատրել միայն վարձով տրվող GPU-ների քանակի նվազմամբ։

Ինչ չի հաստատում աշխատանքը

Աշխատանքը նշում է, թե ինչ չեն կարող ցույց տալ իր տվյալները։ Ֆորվարդային նշանները վերլուծաբանների ցուցիչներ են, ոչ թե կատարելի գնանշումներ։ Վարձակալության դիտարկումները չեն առանձնացնում բաց կշիռների պահանջարկի ներդրումը, և ուսումնասիրությունը չի հաստատում դրա ազդեցությունը A100-ի զբաղվածության կամ գնի վրա. այլընտրանքային բացատրություններ են մնում սարքերի դուրսբերումը, խիտ ինֆերենսը և ֆինանսական ազդեցությունները։ Ornn-ը նաև բացահայտում է առևտրային շահը. լիցենզավորում է տվյալները և Ornn Compute-ի միջոցով ինքն է առաջարկում GPU վարձակալություն։ Փաստարկը վերնագրից նեղ է. հին GPU-ները պահպանում են տնտեսական դեր, քանի դեռ համապատասխան ծանրաբեռնվածությունները նրանց վրա մրցունակ են, իսկ օպերատորներն ազատ են դրանք այնտեղ տեղակայել։