NVIDIA CUDA 13.5, Vera Rubin desteği ve yeni geliştirici özellikleriyle genel kullanıma sunuldu

NVIDIA, NVIDIA Vera Rubin GPU mimarisine yönelik üretime hazır desteği sunan CUDA Toolkit 13.5'i genel kullanıma açtı. Bu sürüm ayrıca Windows on Arm desteğini NVIDIA DGX Station for Windows'a genişletiyor ve geliştiriciler için zamanlama, iletişim, kütüphane ve araç güncellemeleri ekliyor.

Zamanlama ve MPS güncellemeleri

CUDA 13.5, uygulamaların tekdüze streaming multiprocessor bölümleri ile tüm kullanılabilir SM'leri içeren bölümler arasında seçim yapmasını sağlayan yerellik etki alanı iyileştirmeleri ekliyor. cudaDevSmResourceGroupLocalityDomainSupplementalSms bayrağı cudaDevSmResourceGroupLocalityDomainId ile birlikte seçilen etki alanlarında ek SM'leri içerir ve cudaDevSmResourceSplit API'si her bölümün SM sayısını keşfedebilir.

NVIDIA Multi-Process Service v3; ağırlıklı zaman dilimleme, ödünç alma ve verme ile SM bölüm yük dengeleme, cgroup tabanlı yönlendirme, ad alanı başına SM bölüm atamaları ve bellek muhasebesi için yoklama tabanlı bir geri dönüş sunar. Bu özellikler iş yüklerinin bir GPU'yu nasıl paylaştığı üzerinde daha fazla denetim sağlar.

CUDA Tile ve CUDA Python

CUDA Tile, NVLink ve NVSwitch fabric'lerinde unicast ve multicast işaretçilerle çok GPU'lu iletişim kazanıyor. SIMT birlikte çalışabilirliğinin herkese açık önizlemesi, Tile çekirdeklerinin NVSHMEM, CCCL Coop, Warp ve MathDx gibi kütüphanelerdeki cihaz işlevlerini çağırmasını sağlar ve bir çekirdek içinde iletişim ile hesaplamayı mümkün kılar.

CUDA Python cuda.core 1.2; copy_batch aracılığıyla toplu bellek kopyaları, LaunchConfig aracılığıyla Programmatic Dependent Launch ve yeniden oluşturma olmadan daha esnek CUDA Graph güncellemeleri ekliyor. Bu değişiklikler CUDA programlamaya Pythonic erişimi genişletiyor.

CCCL ve geliştirici araçları

CCCL 3.5; CUB için herkese açık ayarlama API'leri, yeniden üretilebilir kayan nokta taramaları, FlashInfer'a entegre toplu Top-K seçimi ve cuda::args::deferred kullanarak cihaz belleğinden öğe sayılarını tüketen veriye bağımlı azaltmalar sağlar. Sürüm ayrıca AI için NVIDIA Nsight Perf SDK'nın herkese açık önizlemesini, NVIDIA Nsight Compute içinde bir zaman çizelgesi sayfasını ve CUDA Driver günlük olaylarında durmayı destekleyen CUDA-GDB desteğini içerir.

Temel CUDA matematik kütüphaneleri, daha hızlı GEMM'ler ve yeni cuBLAS ve cuSPARSE özellikleri dahil olmak üzere Vera Rubin'de performans iyileştirmeleri alıyor. Güncellemeye ayrıca derleyici ve Windows sürücü modu değişiklikleri ekleniyor; WDDM ve MCDM, Rubin ve sonraki GPU'larda desteklenirken TCC desteklenmiyor.

Kaynaklar: NVIDIA Developer Blog