NVIDIA CUDA 13.5 זמין GA עם תמיכה ב־Vera Rubin ותכונות מפתח

NVIDIA שחררה את CUDA Toolkit 13.5 לזמינות כללית, עם תמיכה מוכנה לייצור בארכיטקטורת GPU של NVIDIA Vera Rubin. הגרסה מרחיבה גם את התמיכה ב־Windows on Arm ל־NVIDIA DGX Station for Windows ומוסיפה עדכונים לתזמון, תקשורת, ספריות וכלים למפתחים.

עדכוני תזמון ו־MPS

CUDA 13.5 מוסיף שיפורי locality domain המאפשרים ליישומים לבחור בין מחיצות אחידות של streaming multiprocessors או מחיצות הכוללות את כל ה־SM־ים הזמינים. הדגל cudaDevSmResourceGroupLocalityDomainSupplementalSms בשילוב עם cudaDevSmResourceGroupLocalityDomainId כולל SM־ים נוספים בתוך תחומים נבחרים, וה־API cudaDevSmResourceSplit יכול לגלות את ספירת ה־SM בכל מחיצה.

NVIDIA Multi-Process Service v3 מציג weighted timeslicing, איזון עומס של מחיצות SM עם borrowing and lending, ניתוב מבוסס cgroup, הקצאות מחיצת SM לכל namespace, ומנגנון fallback מבוסס polling לחשבונאות זיכרון. תכונות אלה מעניקות שליטה רבה יותר באופן שבו עומסי עבודה משתפים GPU.

CUDA Tile ו־CUDA Python

CUDA Tile מקבל תקשורת רב־GPU עם מצביעים unicast ו־multicast על fabrics של NVLink ו־NVSwitch. גרסה מקדימה ציבורית של SIMT interoperability מאפשרת ל־Tile kernels לקרוא פונקציות device מספריות כגון NVSHMEM, CCCL Coop, Warp ו־MathDx, ובכך לאפשר תקשורת וחישוב בתוך kernel.

CUDA Python cuda.core 1.2 מוסיפה העתקות זיכרון מקובצות דרך copy_batch, Programmatic Dependent Launch דרך LaunchConfig, ועדכוני CUDA Graph גמישים יותר ללא אתחול מחדש. שינויים אלה מרחיבים את הגישה ה־Pythonic לתכנות CUDA.

CCCL וכלי פיתוח

CCCL 3.5 מספקת APIs כוונון ציבוריים ל־CUB, סריקות נקודה צפה הניתנות לשחזור, בחירת Top-K מקובצת המשולבת ב־FlashInfer, וצמצומים התלויים בנתונים הצורכים ספירות אלמנטים מזיכרון המכשיר באמצעות cuda::args::deferred. הגרסה כוללת גם גרסה מקדימה ציבורית של NVIDIA Nsight Perf SDK for AI, דף timeline ב־NVIDIA Nsight Compute, ותמיכה ב־CUDA-GDB לעצירה באירועי יומן של CUDA Driver.

ספריות CUDA מתמטיות הליבה מקבלות שיפורי ביצועים על Vera Rubin, כולל GEMM מהירים יותר ותכונות חדשות ב־cuBLAS ו־cuSPARSE. העדכון מוסיף גם שינויים בקומפיילר ובמצב driver של Windows, כאשר WDDM ו־MCDM נתמכים על Rubin ו־GPU־ים מאוחרים יותר, ואילו TCC אינו נתמך.

מקורות: NVIDIA Developer Blog