Վերադառնալ
NVIDIA DSX MaxLPS-ը նույն էներգաբյուջեով 49%-ով մեծացրել է AI գործարանի թողունակությունը
SiTech AI Team2 წთ. საკითხავი

NVIDIA DSX MaxLPS-ը նույն էներգաբյուջեով 49%-ով մեծացրել է AI գործարանի թողունակությունը

NVIDIA-ի և Nscale-ի համատեղ թեստը Իսլանդիայում GB300 NVL72 համակարգերով նույն 264,4 կՎտ բյուջեով 140-ի փոխարեն 192 GPU գործարկեց. ընդհանուր թողունակությունն աճել է 49,2%-ով, իսկ առանձին ինստանսների արագությունը գրեթե չի փոխվել։

NVIDIA-ն ծրագրավորողների բլոգում հրապարակել է DSX MaxLPS-ի տեխնիկական վերլուծությունը։ Այս շերտը տվյալների կենտրոնում էներգիան GPU-ների միջև դինամիկ բաշխում է՝ յուրաքանչյուր հանգույցի համար ֆիքսված գագաթնակետ պահելու փոխարեն։ 2026 թվականի սեպտեմբերի 27-ի հոդվածի հեղինակներն են Sarah McKenney-ն և Harry Petty-ն. Նրանք նշում են, որ մոտեցումը թույլ է տալիս նույն հաստատված բյուջեի սահմաններում մինչև 40%-ով ավելի GPU տեղադրել։

Ինչու ստատիկ վերապահումը էներգիան անօգտագործելի է թողնում

AI գործարանը գործում է էլեկտրական սահմանափակումների հիերարխիայում՝ ցանցային միացումից մինչև դարակներ, հանգույցներ և GPU-ներ։ Օպերատորները սովորաբար այնքան հզորություն են վերապահում, որ բոլոր արագացուցիչները միաժամանակ հասնեն գագաթնակետին, թեև իրական ծանրաբեռնվածություններն այլ կերպ են վարվում. ուսուցման ընթացքում հաշվարկները հերթափոխվում են կապի և ստուգիչ կետերի հետ, իսկ ինֆերենսում աշխատանքը անցնում է prefill-ի, decode-ի և հիշողությամբ սահմանափակ աշխատանքի միջև։ Ստատիկ վերապահման դեպքում մեկ հանգույցի չօգտագործված հզորությունը մյուսին չի անցնում, իսկ DSX MaxLPS-ը հետևում է իրական սպառմանը և էներգիան վերաբաշխում օպերատորի քաղաքականության սահմաններում։

MaxP, MaxQ և MaxLPS սխեման

Ինչպես է անցկացվել գնահատումը

Nscale-ը ծրագիրը տեղադրել է Իսլանդիայում՝ Կեֆլավիկի Verne կամպուսի տվյալների կենտրոնում, իսկ ծանրաբեռնվածությունները գործարկել է NVIDIA-ն՝ GB300 NVL72 համակարգերում Blackwell Ultra GPU-ներով և FP4 ճշգրտությամբ Kimi K2.5-ով։ Բազային կոնֆիգուրացիան օգտագործում էր 140 GPU, MaxLPS-ի տարբերակը՝ 192 GPU՝ նույն 264,4 կՎտ բյուջեով։

Ինչ ցույց տվեցին չափումները

Նորմալացված ընդհանուր թողունակությունը աճել է 49,2%-ով՝ վայրկյանում 1 084 503 թոքենից դառնալով 1 618 443 թոքեն, իսկ հատկացված վատտին բաժին ընկնող թոքենների թիվը՝ 4,10-ից 6,12։ Առանձին ինստանսների ցուցանիշները գրեթե չեն փոխվել՝ 59 220 թոքեն վայրկյանում բարձր թողունակության ինստանսների համար՝ բազային 59 153-ի համեմատ։

GPU-ների միջին հզորությունը աճել է 97,0 կՎտ-ից մինչև 131,8 կՎտ, իսկ բյուջեի օգտագործումը՝ 62,9%-ից 75,2%։ Մեդիանային և P75 լատենտությունը մնացել է բազայից 5%-ի սահմաններում, սակայն առաջին թոքենին հասնելու P99 ժամանակը վատացել է 17%-ով։

Ինչ պետք է ստուգեն օպերատորները

NVIDIA-ն առաջարկում է հինգ փուլ՝ սահմանել կառավարման սահմանը և կիրառելի լիմիտը, ստատիկ վերապահման պայմաններում գրանցել ներկայացուցչական բազա, քաղաքականությունները մտցնել այդ բազային մոտ արժեքներով, հզորությունը աստիճանաբար ավելացնել՝ յուրաքանչյուր քայլում ստուգելով, և արտադրական լիմիտները հաստատել միայն դրանից հետո։

SSiTech

SiTech — AI-ով հզորացված վեբ մշակում

Ստեղծում ենք արագ ու ժամանակակից կայքեր և AI-ը ներդնում իրական բիզնես գործընթացներում։ Ունե՞ք նախագիծ կամ հարց։ Ուրախ կլինենք օգնել։