Intel və AMD PyTorch CPU optimallaşdırmalarını oneDNN kitabxanasında birləşdirir
AMD ZenDNN törəmə kitabxanasını açıq mənbəli oneDNN kitabxanasına birləşdirir ki, PyTorch üçün CPU inferensiyası həm Intel, həm də AMD x86 çipləri üçün bir backend istifadə edə bilsin. Dəyişiklik x86 Ecosystem Advisory Group tövsiyəsinə əsaslanır.
Nə dəyişir
Intel və AMD PyTorch üçün CPU optimallaşdırmalarını birləşdirilmiş kitabxanaya inteqrasiya edir və tərtibatçılara oneDNN vasitəsilə həm AMD, həm də Intel çipləri üçün tənzimləmə imkanı verir. AMD oneDNN-in ZenDNN adlanan törəmə versiyasını dəstəkləyirdi və bu iş indi UXL Foundation tərəfindən dərc edilən və Intel tərəfindən yürütülən açıq mənbəli oneDNN layihəsinə köçürülür.
AMD həmçinin UXL Foundation-a idarəetmə üzvu kimi qoşulduğunu elan etdi. Şirkət bu rolun illik $20,000 maddi qatqı müqabilində fondun gələcəyinə təsir etdiyini bildirib.
Tərtibatçılar üçün niyə vacibdir
oneDNN backend CPU inferensiyası üçün istifadə olunur və PyTorch kimi çərçivələrdə ən son Intel, indi isə AMD çipləri üçün bu yükü sürətləndirmək üçün qurulub. oneDNN 2023-cü ilin sonlarında PyTorch-a backend kimi əlavə edildikdə şirkətlər Float32 verilənlər tipi üzərində 1.24x, BFloat16 verilənlər tipi üzərində isə 2.21x yaxşılaşma göstərdiyini bildiriblər.
oneDNN-in GitHub səhifəsinə görə, kitabxana platforma üçün optimallaşdırılmış nüvələr yaratmaq üçün aparat xüsusiyyətlərini iş zamanında aşkar edir, aşağı dəqiqlikli verilənlər tipləri təqdim edir və matris çarpımı ilə konvolusiya kimi ümumi AI və maşın öyrənməsi əməliyyatları üçün optimallaşdırılmış təlimatları ehtiva edir. Tərtibatçılar üçün bu addım müxtəlif sistemlərdə PyTorch ilə işi sadələşdirir, çünki tək backend istifadə olunan aparat təminatına uyğun düzgün optimallaşdırmaları təmin edir.
EAG dəstəyi və daha geniş dəstək
AMD oneDNN altında birləşmənin x86 Ecosystem Advisory Group tərəfindən tövsiyə olunduğunu deyir; bu, əsasən Intel və AMD arasında mövcud olan və 2024-cü ildə yaradılmış birgə təşəbbüsdür. Bu iki şirkət əvvəllər EAG vasitəsilə əməkdaşlıq ediblər, o cümlədən bu ilin əvvəllərində təsvir olunan x86 üçün ACE genişlənmələri sahəsində.
Elan x86 üzərinə yönəlsə də, oneDNN Arm və RISC-V memarlığında da işləyən çox platformallı kitabxanadır. Intel oneDNN-i UXL Foundation-a daxil edilməzdən əvvəl, artıq mövcud olan dərin öyrənmə kitabxanaları əsasında hazırlayıb. Intel Arm, Qualcomm, Google Cloud və digərləri ilə birgə UXL Foundation-un qurucu üzvləri arasında olub.
Mənbələr: Tom's Hardware
SiTech — AI ilə gücləndirilmiş veb hazırlanması
Sürətli və müasir saytlar qurur, AI-ı real biznes proseslərinə gətiririk. Layihəniz və ya sualınız var? Kömək etməyə hazırıq.