AMD-ის თქმით, MEXT-ს DRAM-ის ნახევრით სერვერის წარმადობის 95% შეუძლია შეინარჩუნოს

AMD-მ ახსნა, როგორ ამცირებს MEXT, მეხსიერების პროგნოზირების ძრავა, სერვერებში ფიზიკურ DRAM-ს წარმადობის დიდი ნაწილის შენარჩუნებით. MEXT-ის მტკიცებით, ფიზიკური DIMM-ების მხოლოდ 25%-ით მუშაობისას ის სრული DRAM-ის სისტემის წარმადობის 99%-ზე მეტს ინარჩუნებს. ტექნოლოგია ცივ გვერდებს ფლეშში გადააქვს და AI მოდელით უკან აბრუნებს, სანამ დასჭირდება.

როგორ გადააქვს MEXT მეხსიერება ფლეშზე

MEXT ცივ მეხსიერების გვერდებს ფლეშ საცავში გადააქვს, ოპერაციული სისტემა კი ნაკლულ მეხსიერებას მაინც დაყენებულ DRAM-ად ხედავს. ფლეში DRAM-ზე ნელია, ამიტომ MEXT AI მოდელს იყენებს, რათა იწინასწარმეტყველოს, რომელი გვერდები დასჭირდება და დროულად დააბრუნოს ისინი. AMD-ის თქმით, პირველ გაშვებაზე მოდელი წამზე ნაკლებ დროში იწვრთნება, მუშაობს ერთ EPYC ბირთვზე GPU-ს გარეშე და დატვირთვისას სწავლას აგრძელებს. MEXT Linux-ის ბირთვის მოდულია, მუშაობს ნებისმიერ Linux დისტრიბუტივთან და იყენებს AI მოდელების ანსამბლს ტრანსფორმერზე დაფუძნებული დიდი ენობრივი მოდელის ხელმძღვანელობით.

AMD-ის შიდა მტკიცებები წარმადობაზე

ზოგიერთ შიდა დატვირთვაზე, მაგალითად Synopsys PrimeTime-ზე, AMD-ის თქმით, 50% DRAM-ით მომუშავე სერვერები სრული სერვერის წარმადობის 95%-ს ინარჩუნებენ, 25% ტევადობა კი 80%-ს. სამკვანძიან Azure-ის კლასტერში მე-5 თაობის EPYC პროცესორებით MEXT-მა TPC-DS ბენჩმარკის Spark SQL დატვირთვაზე 50% DRAM-ით სრული კლასტერის წარმადობის 99% მიაღწია. აგენტური AI-სთვის AMD აცხადებს სრული სერვერის წარმადობის 99%-ს 50% მეხსიერებით და 85%-ს 25%-ით, ხუთი აგენტის ერთდროული მუშაობის გეომეტრიული საშუალოს მიხედვით. მეხსიერების მომთხოვნი აგენტისთვის AMD 90%-ს აცხადებს 50% ტევადობით და 88%-ს 25%-ით.

დანერგვა და გავრცელება

AMD-მ MEXT შიდა გამოყენებისთვის 145 სერვერზე დანერგა და მომავალ წელს 2 000 სერვერამდე გაფართოებას გეგმავს. კომპანიამ HPE-სთან პარტნიორობაც გამოაცხადა, რათა MEXT მომხმარებლებამდე მიიტანოს. პირველი ეტაპი მოიცავს რამდენიმე EPYC Venice სერვერს MEXT Ready ნიშნით და გამოყოფილ NVMe დისკს ან ბეის მეხსიერების გადასატანად. მეორე ეტაპი მათ MEXT-ის ლიცენზიებსა და RAM View აპლიკაციას მოუტანს, თუმცა დაწყების თარიღი უცნობია.

დატვირთვები და შეზღუდვები

AMD თავდაპირველად MEXT-ს საკუთარ კრიტიკულ EDA აპლიკაციებზე იყენებს, მათ შორის Synopsys PrimeTime-ზე, და ოპტიმიზებს აგენტური AI-ს, მონაცემთა ბაზისა და მედია-გართობის დატვირთვებს. კომპანიის თქმით, ბევრ დატვირთვაზე ტევადობის დაახლოებით 20%-25%-ით შემცირებაა შესაძლებელი, უფრო დიდი შემცირებისას კი აპლიკაციები უფრო სპეციალიზებული ხდება და წარმადობის სხვაობაც იზრდება. RAM View აჩვენებს ცხელ და ცივ გვერდებს; ერთ განზოგადებულ მაგალითში 1,5 TB მეხსიერების სისტემა თითქმის სრულად იყო დატვირთული, ხოლო ნებისმიერ მომენტში გვერდების დაახლოებით ნახევარი ხუთი წუთის ან მეტხანს ხელუხლებელი იყო. AMD-ს არ დაუზუსტებია ამ მაგალითის დატვირთვა და არც ზოგიერთი ბენჩმარკის სლაიდის შენიშვნები გაუზიარებია.

წყაროები: Tom's Hardware · The Register