NVIDIA-ն ներկայացրել է CUDA Rust-ը՝ GPU միջուկները Rust-ով գրելու երկու ուղի
NVIDIA-ն ներկայացրել է CUDA Rust-ը՝ cuda-oxide-ը SIMT միջուկները ուղղակիորեն PTX-ի է կոմպիլյացնում, իսկ cutile-rs-ը Tile-ի վրա հիմնված GPU ծրագրավորումը բերում է stable Rust և արդեն օգտագործվում է HuggingFace-ում։
Ինչ ներկայացրեց NVIDIA-ն
NVIDIA-ն ներկայացրել է CUDA Rust-ը՝ GPU միջուկները Rust լեզվով գրելու երկու պաշտոնական ուղի։ cuda-oxide-ը rustc-ի սեփական codegen backend-ն է, որը SIMT ոճի միջուկները Pliron IR-ի և LLVM-ի միջոցով ուղղակիորեն PTX-ի է վերածում։ cutile-rs-ը Tile-ի վրա հիմնված GPU ծրագրավորումը բերում է stable Rust՝ թելերի բաշխումն ու հիշողության դասավորությունը թողնելով կոմպիլյատորին` CUDA Tile IR-ի միջոցով։
Ինչու է կարևոր
Երկու նախագծերն էլ հիշողության անվտանգությունը ստուգում են կոմպիլյացիայի պահին — cuda-oxide-ը DisjointSlice-ի և launch պայմանագրերի միջոցով, cutile-rs-ը՝ տենզորների բաշխման ու սեփականության մոդելով։ cutile-rs-ն արդեն crates.io-ում է, աշխատում է stable Rust 1.89+ և CUDA 13.3-ի վրա ու օգտագործվում է HuggingFace-ի Grout inference engine-ում և mistral.rs-ում; cuda-oxide-ը դեռ վաղ ալֆա է և պահանջում է pinned nightly։ NVIDIA-ն պլանավորում է համատեղելիություն CUDA C++-ի և Python-ի հետ։