Geri qayıt
SiTech Team⏱️ 1 წთ. საკითხავი

NVIDIA CUDA Rust-ı təqdim etdi — GPU kernel-ləri Rust ilə yazılacaq

NVIDIA CUDA Rust-ı təqdim etdi — GPU kernel-ləri Rust ilə yazılacaq

NVIDIA CUDA Rust-ı təqdim edib: cuda-oxide SIMT kernel-ləri birbaşa PTX-ə kompilyasiya edir, cutile-rs isə sabit Rust-da tile əsaslı GPU proqramlaşdırmanı gətirir və artıq HuggingFace-də istifadə olunur.

NVIDIA nə elan etdi

NVIDIA, GPU kernel-lərini Rust dilində yazmaq üçün iki rəsmi yol təqdim edən CUDA Rust-ı elan edib. cuda-oxide rustc-nin xüsusi codegen backend-idir və SIMT tipli kernel-ləri Pliron IR və LLVM vasitəsilə birbaşa PTX-ə kompilyasiya edir. cutile-rs isə tile əsaslı GPU proqramlaşdırmanı sabit Rust-a gətirir: kompilyator axınların xəritələnməsini və yaddaş yerləşməsini CUDA Tile IR vasitəsilə özü idarə edir.

Niyə vacibdir

Hər iki layihə yaddaş təhlükəsizliyini kompilyasiya zamanı təmin edir — cuda-oxide DisjointSlice və launch müqavilələri ilə, cutile-rs isə tensorların bölünməsi və sahiblik modeli ilə. cutile-rs artıq crates.io-da yerləşdirilib, sabit Rust 1.89+ və CUDA 13.3 ilə işləyir və HuggingFace-in Grout inference mühərrikində və mistral.rs-də istifadə olunur; cuda-oxide isə erkən alfa mərhələsindədir və pinned nightly tələb edir. NVIDIA CUDA C++ və Python ilə uyğunluq planlaşdırır.

📖 Mənbə