NVIDIA CUDA 13.5-ը հասնում է GA-ի՝ Vera Rubin աջակցությամբ և նոր մշակողի հնարավորություններով

NVIDIA-ն թողարկել է CUDA Toolkit 13.5-ը ընդհանուր հասանելիությամբ՝ ապահովելով NVIDIA Vera Rubin GPU ճարտարապետության արտադրական պատրաստության աջակցություն։ Թողարկումը նաև ընդլայնում է Windows on Arm աջակցությունը NVIDIA DGX Station for Windows-ի համար և ավելացնում է պլանավորման, հաղորդակցության, գրադարանային և գործիքային թարմացումներ մշակողների համար։

Պլանավորում և MPS թարմացումներ

CUDA 13.5-ը ավելացնում է locality domain-ի բարելավումներ, որոնք հավելվածներին թույլ են տալիս ընտրել համասեռ streaming multiprocessor բաժանումների և բոլոր հասանելի SM-ները ներառող բաժանումների միջև։ cudaDevSmResourceGroupLocalityDomainSupplementalSms դրոշակը՝ զուգակցված cudaDevSmResourceGroupLocalityDomainId-ի հետ, ընտրված տիրույթներում ներառում է լրացուցիչ SM-ներ, իսկ cudaDevSmResourceSplit API-ն կարող է հայտնաբերել յուրաքանչյուր բաժանման SM-ների քանակը։

NVIDIA Multi-Process Service v3-ը ներկայացնում է կշռված timeslicing, SM բաժանումների բեռի հավասարակշռում՝ փոխառությամբ և վարկավորմամբ, cgroup-ի վրա հիմնված երթուղավորում, անվանատարածքային SM բաժանման նշանակումներ և memory accounting-ի համար polling-ի վրա հիմնված պահեստային տարբերակ։ Այս հնարավորությունները ավելի մեծ վերահսկողություն են տալիս այն մասին, թե ինչպես են աշխատանքային բեռները կիսում GPU-ն։

CUDA Tile և CUDA Python

CUDA Tile-ը ստանում է բազմա-GPU հաղորդակցություն՝ unicast և multicast ցուցիչներով NVLink և NVSwitch կապուղիների վրա։ SIMT փոխգործունակության հրապարակային նախադիտումը թույլ է տալիս Tile կերնելներին կանչել սարքային ֆունկցիաներ այնպիսի գրադարաններից, ինչպիսիք են NVSHMEM, CCCL Coop, Warp և MathDx, ինչը հնարավորություն է տալիս կերնելի ներսում իրականացնել հաղորդակցություն և հաշվարկ։

CUDA Python cuda.core 1.2-ը ավելացնում է խմբային հիշողության պատճենումներ՝ copy_batch-ի միջոցով, Programmatic Dependent Launch՝ LaunchConfig-ի միջոցով, և ավելի ճկուն CUDA Graph թարմացումներ՝ առանց վերաստեղծման։ Այս փոփոխությունները ընդլայնում են Python-ի միջոցով CUDA ծրագրավորման հասանելիությունը։

CCCL և մշակողի գործիքներ

CCCL 3.5-ը տրամադրում է CUB-ի համար հրապարակային tuning API-ներ, վերարտադրելի floating-point սկանավորումներ, FlashInfer-ի մեջ ինտեգրված խմբային Top-K ընտրություն և տվյալներից կախված ռեդուկցիաներ, որոնք սարքային հիշողությունից օգտագործում են տարրերի քանակներ՝ cuda::args::deferred-ի միջոցով։ Թողարկումը նաև ներառում է NVIDIA Nsight Perf SDK for AI-ի հրապարակային նախադիտումը, ժամանակացույցի էջ NVIDIA Nsight Compute-ում և CUDA-GDB աջակցություն՝ CUDA Driver-ի լոգ իրադարձությունների վրա կանգնելու համար։

Հիմնական CUDA մաթեմատիկական գրադարանները Vera Rubin-ի վրա ստանում են արտադրողականության բարելավումներ, այդ թվում՝ ավելի արագ GEMM-ներ և cuBLAS-ի ու cuSPARSE-ի նոր հնարավորություններ։ Թարմացումը նաև ավելացնում է կոմպիլյատորի և Windows դրայվերի ռեժիմի փոփոխություններ՝ WDDM և MCDM աջակցվում են Rubin և դրանից հետո եկող GPU-ների վրա, իսկ TCC-ն չի աջակցվում։

Աղբյուրներ: NVIDIA Developer Blog