NVIDIA-მ აჩვენა, როგორ ზრდის DSX MaxLPS AI ქარხნის გამტარუნარიანობას

NVIDIA-მ ტექნიკურ ბლოგზე გამოაქვეყნა DSX MaxLPS-ის მიმოხილვა. ეს ფენა მონაცემთა ცენტრში სიმძლავრეს GPU-ებს შორის დინამიკურად ანაწილებს და არა თითოეული კვანძისთვის ფიქსირებულ პიკურ ზღვარს იტოვებს. 2026 წლის 27 სექტემბერს გამოქვეყნებული სტატიის ავტორები არიან Sarah McKenney და Harry Petty. მათი მიხედვით, მიდგომა იმავე დამტკიცებულ ბიუჯეტში 40%-ით მეტი GPU-ის განთავსების საშუალებას იძლევა.

რატომ რჩება სიმძლავრე გამოუყენებელი

„AI ქარხანა“ ელექტრული ზღვრების იერარქიაში მუშაობს: შეზღუდვებია ქსელურ მიწოდებაზე, ქვესადგურებზე, რაკებზე, კვანძებსა და GPU-ებზე. ოპერატორები ჩვეულებრივ რეზერვს იმ შემთხვევისთვის ითვალისწინებენ, როცა ყველა ამაჩქარებელი ერთდროულად პიკურ სიმძლავრეს მიაღწევს, თუმცა რეალური დატვირთვა ასე არ იქცევა: სწავლებისას სამუშაო ციკლი გამოთვლებს, კომუნიკაციასა და ჩექპოინტებს შორის მოძრაობს, ინფერენსი კი prefill-ს, decode-სა და მეხსიერებაზე მიბმულ სამუშაოს შორის. სტატიკური რეზერვის დროს ერთი კვანძის თავისუფალი სიმძლავრე მეორეს ვერ გადაეცემა, DSX MaxLPS კი რეალურ მოხმარებას აკვირდება და სიმძლავრეს ოპერატორის პოლიტიკის ფარგლებში გადაანაწილებს.

როგორ ჩატარდა შეფასება

Nscale-მა პროგრამა ისლანდიაში, კეფლავიკის Verne კამპუსის მონაცემთა ცენტრში განათავსა, დატვირთვები კი NVIDIA-მ გაუშვა GB300 NVL72 სისტემებზე, Blackwell Ultra GPU-ებით და Kimi K2.5-ით FP4 სიზუსტით. საბაზისო კონფიგურაცია 140 GPU-ს იყენებდა, MaxLPS-ის ვარიანტი კი 192 GPU-ს: დაემატა მესამე 52-GPU-იანი მაღალგამტარუნარიანი ინსტანსი, ბიუჯეტი კი ორივეგან 264,4 კვტ იყო.

რა აჩვენა გაზომვებმა

ნორმალიზებული ჯამური გამტარუნარიანობა 49,2%-ით გაიზარდა: წამში 1 084 503 ტოკენიდან 1 618 443 ტოკენამდე, ხოლო გამოყოფილ ვატზე მოწოდებული მაჩვენებელი 4,10-დან 6,12 ტოკენ/წმ/ვტ-მდე. ცალკეული ინსტანსების შედეგი თითქმის არ შეიცვალა: მაღალგამტარუნარიანი ინსტანსებისთვის 59 220 ტოკენი წამში საბაზისო 59 153-ის წინააღმდეგ.

GPU-ების საშუალო სიმძლავრე 97,0 კვტ-დან 131,8 კვტ-მდე გაიზარდა, ბიუჯეტის ათვისება კი 62,9%-დან 75,2%-მდე. მედიანური და P75 ლატენტურობა საბაზისო დონის 5%-იან ზღვრებში დარჩა, თუმცა P99 დრო პირველ ტოკენამდე 17%-ით გაუარესდა.

რა უნდა გადაამოწმონ ოპერატორებმა

NVIDIA-ს რეკომენდაცია ხუთეტაპიანია: მართვის საზღვრისა და მისი აღსრულებადი ზღვრის განსაზღვრა, სტატიკური რეზერვის პირობებში წარმომადგენლობითი საბაზისო მაჩვენებლის აღრიცხვა, პოლიტიკების ამ საბაზისოსთან ახლოს შემოღება, სიმძლავრის ეტაპობრივი დამატება ყოველ საფეხურზე შემოწმებით და წარმოების ზღვრების დამტკიცება მხოლოდ ამის შემდეგ.