AWS, PyTorch tətbiqlərini Trainium çiplərinə köçürmək üçün TorchNeuronu buraxır

Amazon Web Services yeni tərtibatçı aləti olan TorchNeuronu təqdim edib ki, tərtibatçılar PyTorch ilə qurulmuş AI tətbiqlərini konfiqurasiyanın yalnız bir sətirini dəyişməklə Amazonun xüsusi Trainium AI çiplərində işlədə bilsinlər, kodun yenidən yazılmasına ehtiyac olmadan. Bu buraxılış Amazonun AI tətbiqləri üçün standart apparat seçimi kimi Nvidia-nın mövqeyinə qarşı indiyədək ən birbaşa meydan oxumasını təmsil edir.

TorchNeuron necə işləyir

TorchNeuron, tərtibatçıların AI modellər qurmaq, öyrətmək və işlətmək üçün istifadə etdiyi pulsuz, açıq mənbəli alət dəsti olan PyTorch-dan uyğunlaşdırılıb. Amazon AI tətbiqlərinin təxminən 85%-inin PyTorch ilə yazıldığını deyir. Alət PyTorch-un özünə əsaslandığı üçün çərçivəni artıq bilən tərtibatçılar ondan dərhal istifadə edə bilər. PyTorch ilk olaraq Facebook tərəfindən hazırlanıb və 2022-ci ildən bəri Linux Foundation tərəfindən dəstəklənir.

Nvidia illərdir CUDA proqram infrastrukturunun, yəni tətbiqlərin Nvidia GPU-ları və digər apparatda işləməsinə imkan verən sistemin, PyTorch tətbiqlərinə problemsiz dəstək verməsini təmin edib və bununla öz aparatını çərçivənin faktiki standartına çevirib. Amazon asan köçürmə yolu təklif edən ilk şirkət deyil, çünki PyTorch istifadəçiləri tətbiqlərini sadə bir konfiqurasiya dəyişikliyi ilə AMD GPU-larına və ya Apple çiplərinə də köçürə bilər. Buna baxmayaraq, AWS Trainium-un bu variantların vermədiyi bir şey təklif etdiyini iddia edir: Amazonun bütün buluduna giriş.

Bulud arqumenti

Amazonun xüsusi çiplərini istehsal edən bölmə olan AWS Annapurna Labs-da Texnologiya Proqram Təminatı üzrə Vitse-prezident Colin Brace dedi ki, AWS üzərində quran startaplar tək məqsədli hesablama provayderinə mərc qoymaqdan və onun ətrafında qalan hər şeyi tələsik qurmağa çalışmaqdan qaçınır. O, Nvidia aparatına bağlı Coreweave, Nebius və Firmus kimi neocloudları, prototipdən istehsala keçmək üçün lazımi infrastruktura malik olmayan alternativlər kimi göstərdi.

AWS iddia edir ki, eyni Trainium çipinin həm öyrətməni, həm də inferensi yerinə yetirdiyi və bulud infrastrukturuna sıx inteqrasiya olduğu üçün startaplar, AWS hər token üçün ən ucuz qiyməti təklif etməsə belə, pul qənaət edirlər. Brace, AI səs tətbiqi provayderi olan Deepgram-a istinad etdi və dedi ki, o, doğma PyTorch dəstəyindən istifadə edərək Trainium-a köçüb və hazırda istehsal səviyyəsində dəqiqlik ilə dollar başına 70% daha çox audio emal edir.

PyTorch-u Nvidia-dan uzaqlaşdırmaq

Amazon əsas PyTorch layihəsinə dəyişiklikləri upstream olaraq təqdim etdiyini və PyTorch icması ilə birlikdə çərçivəni konkret çiplərə bağlayan kodu silmək üçün işlədiyini deyir. Bildirilən məqsəd, PyTorch-u yalnız Trainium istifadəçiləri üçün deyil, bütün tərtibatçı icması üçün aparatdan daha asılı olmayan hala gətirməkdir. Əgər Amazon PyTorch-u Nvidia-dan dərin şəkildə ayırmağa nail olarsa, GPU nəhənginə təsir digər çip istehsalçıları ilə rəqabətdən kənara çıxa bilər. Brace-in dediyi kimi, əsl hekayə tərtibatçıların ümumiyyətlə real seçim etməsinə imkan verməyən kilidin aradan qaldırılmasıdır.

Mənbələr: TechCrunch · GeekWire · PyTorch Blog