Ինտել և AMD միավորում են PyTorch CPU օպտիմիզացիաներ oneDNN գրադարանում

Ի՞նչ է փոխվում

Intel-ը և AMD-ն PyTorch-ի համար իրենց CPU օպտիմիզացիաները միավորում են մեկ ընդհանուր գրադարանում՝ oneDNN-ի միջոցով մշակողներին առաջարկելով կարգավորումներ և՛ AMD-ի, և՛ Intel-ի չիպերի համար։ AMD-ն պահպանում էր oneDNN-ի հիման վրա ստեղծված ZenDNN անունով առանձին գրադարան, և այդ աշխատանքն այժմ տեղափոխվում է բաց կոդով oneDNN նախագիծ, որը հրապարակում է UXL Foundation-ը, իսկ ղեկավարում է Intel-ը։

AMD-ն նաև հայտարարեց, որ միանում է UXL Foundation-ին որպես ղեկավար կոմիտեի անդամ։ Ընկերության խոսքով՝ այդ դերը ազդում է հիմնադրամի ապագայի վրա՝ տարեկան $20,000 ներդրման դիմաց։

Ինչո՞ւ է դա կարևոր մշակողների համար

oneDNN-ի backend-ը օգտագործվում է CPU-ի վրա ինֆերենսի համար և կառուցված է այդ ծանրաբեռնվածությունն արագացնելու համար՝ Intel-ի վերջին, իսկ այժմ նաև AMD-ի չիպերի վրա PyTorch-ի նման ֆրեյմվորքերում։ Երբ oneDNN-ը 2023 թվականի վերջին ավելացվեց PyTorch-ին որպես backend, ընկերությունները հայտարարեցին, որ այն ցույց տվեց 1.24x բարելավում Float32 տվյալների տիպի դեպքում և 2.21x՝ BFloat16-ի դեպքում։

oneDNN-ի GitHub-ի տվյալներով՝ գրադարանը գործարկման պահին հայտնաբերում է սարքավորման հնարավորությունները՝ պլատֆորմի համար օպտիմիզացված միջուկներ ստեղծելու նպատակով, տրամադրում է ցածր ճշգրտության տվյալների տիպեր և ներառում է օպտիմիզացված հրահանգներ AI-ի և մեքենայական ուսուցման տարածված գործողությունների համար, օրինակ՝ մատրիցների բազմապատկման և կոնվոլյուցիայի։ Մշակողների համար այս քայլը պարզեցնում է PyTorch-ի հետ աշխատանքը տարբեր համակարգերում՝ ապահովելով, որ մեկ backend-ը տրամադրի համապատասխան օպտիմիզացիաներ օգտագործվող սարքավորման համար։

EAG-ի աջակցությունը և ավելի լայն աջակցությունը

AMD-ն ասում է, որ oneDNN-ի ներքո միավորումը խորհուրդ է տվել x86 Ecosystem Advisory Group-ը՝ համատեղ նախաձեռնություն, որը հիմնականում գոյություն ունի Intel-ի և AMD-ի միջև և ստեղծվել է 2024 թվականին։ Երկու ընկերությունները նախկինում համագործակցել են EAG-ի միջոցով, այդ թվում՝ x86-ի համար ACE ընդլայնումների շուրջ, որոնց մասին խոսվել է այս տարվա սկզբին։

Թեև հայտարարությունը կենտրոնացած է x86-ի վրա, oneDNN-ը խաչաձև հարթակային գրադարան է, որն աշխատում է նաև Arm-ի և RISC-V-ի ճարտարապետություններում։ Intel-ը սկզբում մշակել է oneDNN-ը՝ հիմնվելով նախկինում գոյություն ունեցող խորը ուսուցման գրադարանների վրա, մինչև այն ներառվեց UXL Foundation-ում։ Intel-ը UXL Foundation-ի հիմնադիր անդամներից էր՝ Arm-ի, Qualcomm-ի, Google Cloud-ի և այլոց հետ միասին։

Աղբյուրներ: Tom's Hardware