Intel და AMD PyTorch-ის CPU ოპტიმიზაციებს oneDNN ბიბლიოთეკაში აერთიანებენ
AMD თავის ZenDNN ბიბლიოთეკას ღია კოდის oneDNN-ში აერთიანებს, რათა PyTorch-ის CPU ინფერენსმა ერთი ბექენდით იმუშაოს Intel-ისა და AMD-ის x86 ჩიპებზე. ცვლილება x86 Ecosystem Advisory Group-ის რეკომენდაციას მოჰყვება.
რა იცვლება
Intel და AMD PyTorch-ისთვის განკუთვნილ CPU ოპტიმიზაციებს ერთიან ბიბლიოთეკაში აერთიანებენ, რითაც დეველოპერები oneDNN-ის მეშვეობით ერთდროულად AMD-ისა და Intel-ის ჩიპებისთვის მორგებულ ოპტიმიზაციებს მიიღებენ. AMD ინარჩუნებდა oneDNN-ზე დაფუძნებულ ცალკე ბიბლიოთეკას, ZenDNN-ს, და ეს სამუშაო ახლა გადადის ღია კოდის oneDNN პროექტში, რომელსაც UXL Foundation აქვეყნებს და Intel-ის ხელმძღვანელობით ვითარდება.
AMD-მ ასევე გამოაცხადა, რომ UXL Foundation-ს მმართველ წევრად უერთდება. კომპანიის თქმით, ეს როლი ფონდის მომავალზე გავლენას ახდენს წელიწადში 20 000 დოლარის შენატანის სანაცვლოდ.
რატომ არის ეს მნიშვნელოვანი დეველოპერებისთვის
oneDNN-ის ბექენდი CPU ინფერენსისთვის გამოიყენება და შექმნილია იმისთვის, რომ დააჩქაროს ეს დატვირთვა PyTorch-ის მსგავს ფრეიმვორკებში Intel-ის უახლესი და ახლა უკვე AMD-ის ჩიპებისთვის. როდესაც oneDNN 2023 წლის ბოლოს PyTorch-ს ბექენდად დაემატა, კომპანიებმა განაცხადეს, რომ Float32 მონაცემთა ტიპზე 1,24-ჯერ, ხოლო BFloat16 მონაცემთა ტიპზე 2,21-ჯერ გაუმჯობესება დაფიქსირდა.
oneDNN-ის GitHub-ის მიხედვით, ბიბლიოთეკა გაშვების დროს ამოიცნობს აპარატურულ მახასიათებლებს, რათა პლატფორმისთვის ოპტიმიზებული ბირთვები შექმნას, გვთავაზობს დაბალი სიზუსტის მონაცემთა ტიპებს და მოიცავს ოპტიმიზებულ ინსტრუქციებს გავრცელებული AI და მანქანური სწავლების ოპერაციებისთვის, როგორიცაა მატრიცების გამრავლება და კონვოლუცია. დეველოპერებისთვის ეს ნაბიჯი ამარტივებს PyTorch-თან მუშაობას სხვადასხვა სისტემაზე, რადგან უზრუნველყოფს, რომ ერთი ბექენდი გამოყენებული აპარატურისთვის სათანადო ოპტიმიზაციას გვთავაზობდეს.
EAG-ის მხარდაჭერა და უფრო ფართო მხარდაჭერა
AMD-ის თქმით, oneDNN-ში გაერთიანება x86 Ecosystem Advisory Group-ის რეკომენდაციით მოხდა. ეს არის ერთობლივი ინიციატივა, რომელიც ძირითადად Intel-სა და AMD-ს შორის არსებობს და 2024 წელს დაარსდა. ორი კომპანია EAG-ის მეშვეობით ადრეც თანამშრომლობდა, მათ შორის x86-ისთვის ACE-ის გაფართოებებზე, რომლებიც ამ წლის დასაწყისში აღწერილი იყო.
მიუხედავად იმისა, რომ განცხადება x86-ზეა ორიენტირებული, oneDNN კროსპლატფორმული ბიბლიოთეკაა და Arm-ისა და RISC-V-ის არქიტექტურებზეც მუშაობს. Intel-მა oneDNN თავდაპირველად ადრე არსებული ღრმა სწავლების ბიბლიოთეკების საფუძველზე შექმნა, სანამ ის UXL Foundation-ს შეუერთდებოდა. Intel UXL Foundation-ის დამფუძნებელ წევრებს შორის Arm-თან, Qualcomm-თან, Google Cloud-თან და სხვებთან ერთად იყო.
წყაროები: Tom's Hardware
SiTech — AI-გაძლიერებული ვებ დეველოპმენტი
ვქმნით სწრაფ, თანამედროვე ვებსაიტებს და AI-ს ვაერთიანებთ ქართული ბიზნესებისთვის. გაქვთ პროექტი ან კითხვა? სიამოვნებით დაგეხმარებით.