NVIDIA CUDA 13.5 GA სტატუსს აღწევს Vera Rubin-ის მხარდაჭერითა და დეველოპერებისთვის ახალი ფუნქციებით

NVIDIA-მ CUDA Toolkit 13.5 ზოგადი ხელმისაწვდომობის სტატუსით გამოუშვა და NVIDIA Vera Rubin GPU არქიტექტურისთვის წარმოებისთვის მზა მხარდაჭერა დაამატა. გამოშვება ასევე აფართოებს Windows on Arm-ის მხარდაჭერას NVIDIA DGX Station for Windows-ზე და ამატებს დაგეგმვის, კომუნიკაციის, ბიბლიოთეკებისა და ხელსაწყოების განახლებებს დეველოპერებისთვის.

დაგეგმვა და MPS-ის განახლებები

CUDA 13.5 ამატებს locality domain-ის გაუმჯობესებებს, რომლებიც აპლიკაციებს საშუალებას აძლევს აირჩიონ ერთგვაროვანი streaming multiprocessor-ის დანაყოფები ან დანაყოფები ყველა ხელმისაწვდომი SM-ით. cudaDevSmResourceGroupLocalityDomainSupplementalSms დროშა cudaDevSmResourceGroupLocalityDomainId-თან ერთად ამატებს დამატებით SM-ებს არჩეულ დომენებში, ხოლო cudaDevSmResourceSplit API-ს შეუძლია თითოეული დანაყოფის SM რაოდენობის აღმოჩენა.

NVIDIA Multi-Process Service v3 შემოაქვს შეწონილ timeslicing-ს, SM დანაყოფების დატვირთვის ბალანსირებას სესხებისა და გაცემის მექანიზმით, cgroup-ზე დაფუძნებულ მარშრუტიზაციას, namespace-ების მიხედვით SM დანაყოფების მინიჭებას და polling-ზე დაფუძნებულ სარეზერვო გზას მეხსიერების აღრიცხვისთვის. ეს ფუნქციები უფრო მეტ კონტროლს იძლევა იმაზე, თუ როგორ იზიარებენ დატვირთვები GPU-ს.

CUDA Tile და CUDA Python

CUDA Tile-ს ემატება multi-GPU კომუნიკაცია unicast და multicast მაჩვენებლებით NVLink და NVSwitch ქსელებზე. SIMT ინტეროპერაბილობის საჯარო წინასწარი ვერსია საშუალებას აძლევს Tile-კერნელებს გამოიძახონ device ფუნქციები ბიბლიოთეკებიდან, როგორიცაა NVSHMEM, CCCL Coop, Warp და MathDx, რაც კერნელის შიგნით კომუნიკაციასა და გამოთვლებს შესაძლებელს ხდის.

CUDA Python cuda.core 1.2 ამატებს პაკეტურ მეხსიერების კოპირებას copy_batch-ის მეშვეობით, Programmatic Dependent Launch-ის LaunchConfig-ის მეშვეობით და უფრო მოქნილ CUDA Graph განახლებებს ხელახალი ინსტანციის შექმნის გარეშე. ეს ცვლილებები აფართოებს CUDA პროგრამირებაზე Python-ული წვდომის შესაძლებლობებს.

CCCL და დეველოპერული ხელსაწყოები

CCCL 3.5 ამატებს CUB-ის საჯარო tuning API-ებს, განმეორებად floating-point scan-ებს, FlashInfer-ში ინტეგრირებულ პაკეტურ Top-K შერჩევას და მონაცემებზე დამოკიდებულ reduction-ებს, რომლებიც ელემენტების რაოდენობას device მეხსიერებიდან იღებენ cuda::args::deferred-ის გამოყენებით. გამოშვება ასევე მოიცავს NVIDIA Nsight Perf SDK for AI-ის საჯარო წინასწარ ვერსიას, timeline გვერდს NVIDIA Nsight Compute-ში და CUDA-GDB-ის მხარდაჭერას CUDA Driver-ის log მოვლენებზე გაჩერებისთვის.

CUDA-ს ძირითადი მათემატიკური ბიბლიოთეკების მუშაობა Vera Rubin-ზე გაუმჯობესდა, მათ შორის უფრო სწრაფი GEMM-ები და cuBLAS-ისა და cuSPARSE-ის ახალი ფუნქციები. განახლება ასევე ამატებს კომპილატორისა და Windows დრაივერის რეჟიმის ცვლილებებს: WDDM და MCDM მხარდაჭერილია Rubin-ზე და უფრო ახალ GPU-ებზე, ხოლო TCC მხარდაჭერილი არ არის.

წყაროები: NVIDIA Developer Blog