Intel ו-AMD ממזגים את אופטימיזציות PyTorch ל-CPU לספריית oneDNN

מה משתנה

Intel ו-AMD ממזגים את אופטימיזציות ה-CPU שלהם עבור PyTorch לספרייה מאוחדת, ומאפשרים למפתחים כוונון לשבבי AMD ולשבבי Intel כאחד באמצעות oneDNN. AMD תחזקה גרסה נגזית של oneDNN בשם ZenDNN, והעבודה הזאת עוברת עכשיו למיזם oneDNN בקוד פתוח שמפורסם על ידי קרן UXL ומונע על ידי Intel.

AMD הודיעה גם כן שהיא מצטרפת לקרן UXL כחברת הנהגה. החברה אמרה שהתפקיד משפיע על עתיד הקרן תמורת תרומה של $20,000 בשנה.

למה זה משנה עבור מפתחים

הצד האחורי של oneDNN משמש להסקה על CPU ונבנה כדי להאיץ עומס עבודה זה עבור השבבים העדכניים ביותר של Intel וכעת גם של AMD במסגרות כמו PyTorch. כש-oneDNN נוסף ל-PyTorch כצד אחורי בסוף 2023, החברות אמרו שהוא הראה שיפור של 1.24x עם סוג הנתונים Float32 ו-2.21x עבור סוג הנתונים BFloat16.

לפי ה-GitHub של oneDNN, הספרייה מזהה תכונות חומרה בזמן ריצה כדי לייצר ליבות מאופטמות עבור הפלטפורמה, מספקת סוגי נתונים בדיוק נמוך וכוללת הוראות מאופטמות לפעולות נפוצות של בינה מלאכותית ולמידת מכונה כגון כפל מטריצות וקונבולוציה. עבור מפתחים, המהלך מפשט את העבודה עם PyTorch על פני מערכות שונות, בכך שהוא מבטיח שצד אחורי אחד יספק את האופטימיזציות המתאימות לחומרה שבה נעשה שימוש.

גיבוי EAG ותמיכה רחבה יותר

AMD אומרת שהאיחוד תחת oneDNN הומלץ על ידי קבוצת הייעוץ למערכת האקולוגית x86, יוזמה משותפת שקיימת בעיקר בין Intel ל-AMD והוקמה ב-2024. שתי החברות שיתפו פעולה דרך EAG בעבר, כולל בהרחבות ACE עבור x86 שתוארו מוקדם יותר השנה.

אם כי ההכרזה ממוקדת ב-x86, oneDNN היא ספרייה חוצת פלטפורמות שעובדת גם על ארכיטקטורות Arm ו-RISC-V. Intel פיתחה במקור את oneDNN מתוך ספריות למידה עמוקה שהיו קיימות קודם לכן, לפני שמוזגה לקרן UXL. Intel הייתה בין חברי המייסדים של קרן UXL לצד Arm, Qualcomm, Google Cloud ואחרים.

מקורות: Tom's Hardware