Intel ve AMD, PyTorch CPU iyileştirmelerini oneDNN kütüphanesinde birleştiriyor

Ne değişiyor

Intel ve AMD, PyTorch için CPU iyileştirmelerini tek bir kütüphanede birleştiriyor ve geliştiricilere oneDNN üzerinden hem AMD hem de Intel çipleri için ayarlama imkanı sunuyor. AMD, oneDNN'in ZenDNN adı verilen türev bir sürümünü sürdürüyordu ve bu çalışma artık UXL Foundation tarafından yayınlanan, Intel tarafından yönetilen açık kaynaklı oneDNN projesine taşınıyor.

AMD ayrıca UXL Foundation yönetim üyesi olarak katıldığını duyurdu. Şirket, yılda $20,000 katkı karşılığında bu rolün vakfın geleceğini etkilediğini söyledi.

Geliştiriciler için neden önemli

oneDNN arka ucu CPU çıkarımı için kullanılır ve PyTorch gibi çerçevelerde en yeni Intel çipleri ve artık AMD çipleri için bu iş yükünü hızlandıracak şekilde tasarlanmıştır. oneDNN, 2023 yılının sonunda PyTorch'a bir arka uç olarak eklendiğinde, şirketler Float32 veri türünde 1.24x, BFloat16 veri türünde ise 2.21x iyileştirme gösterdiğini açıklamıştı.

oneDNN GitHub sayfasına göre kütüphane, çalışma zamanında donanım özelliklerini algılayıp platform için optimize edilmiş çekirdekler üretir, düşük hassasiyetli veri türleri sağlar ve matris çarpımı ile evrişim gibi yaygın yapay zeka ve makine öğrenmesi işlemleri için optimize edilmiş talimatlar içerir. Geliştiriciler için bu adım, farklı sistemlerde PyTorch çalışmasını kolaylaştırıyor çünkü tek bir arka ucun kullanılan donanım için doğru iyileştirmeleri sunması sağlanıyor.

EAG desteği ve daha geniş destek

AMD, oneDNN altındaki birleştirmenin x86 Ecosystem Advisory Group tarafından önerildiğini söylüyor; bu grup öncelikle Intel ve AMD arasında var olan ve 2024'te kurulmuş ortak bir girişimdir. İki şirket daha önce de EAG aracılığıyla iş birliği yapmıştı, bu yılın başlarında anlatılan x86 için ACE uzantıları da buna örnektir.

Duyuru x86 odağında olsa da oneDNN çapraz platform bir kütüphanedir ve Arm ile RISC-V mimarilerinde de çalışır. Intel, oneDNN'i daha önce var olan derin öğrenme kütüphanelerinden geliştirmişti; oneDNN daha sonra UXL Foundation'a dahil edildi. Intel, UXL Foundation kurucu üyeleri arasındaydı; Arm, Qualcomm, Google Cloud ve diğerleriyle birlikteydi.

Kaynaklar: Tom's Hardware