AWS-ն ներկայացնում է TorchNeuron՝ PyTorch հավելվածները Trainium չիպերի տեղափոխելու համար

Amazon Web Services-ն թողարկել է TorchNeuron անունով նոր ծրագրավորողական գործիք, որը թույլ է տալիս PyTorch-ով կառուցված AI հավելվածները գործարկել Amazon-ի սեփական Trainium AI չիպերի վրա՝ փոխելով կազմաձևման միայն մեկ տողը, առանց կոդը վերագրելու։ Այս թողարկումը մինչ այժմ Amazon-ի ամենաուղղակի մարտահրավերն է Nvidia-ի դիրքին՝ որպես AI հավելվածների լռելյայն սարքային ընտրություն։

Ինչպես է աշխատում TorchNeuron-ը

TorchNeuron-ը հարմարեցված է PyTorch-ից, այս անվճար բաց կոդով գործիքակազմից, որը ծրագրավորողներն օգտագործում են AI մոդելներ կառուցելու, վերապատրաստելու և գործարկելու համար։ Amazon-ն հայտնում է, որ AI հավելվածների մոտ 85%-ը գրված է PyTorch-ով։ Քանի որ գործիքը հիմնված է հենց PyTorch-ի վրա, ֆրեյմվորքին արդեն ծանոթ ծրագրավորողները կարող են այն անմիջապես օգտագործել։ PyTorch-ը սկզբնապես մշակվել է Facebook-ի կողմից և 2022 թվականից սպասարկվում է Linux Foundation-ի կողմից։

Nvidia-ն տարիներ շարունակ ապահովում է, որ իր CUDA ծրագրային ենթակառուցվածքը, որը թույլ է տալիս հավելվածներին աշխատել Nvidia-ի GPU-ների և այլ սարքավորումների վրա, անխափան աջակցի PyTorch-ի հավելվածներին՝ դրանով իսկ իր սարքավորումը դարձնելով ֆրեյմվորքի գրեթե լռելյայն մասը։ Amazon-ը առաջին ընկերությունը չէ, որ հեշտ տեղափոխման ուղի է առաջարկում, քանի որ PyTorch օգտատերերը նաև կարող են իրենց հավելվածները տեղափոխել AMD GPU-ներ կամ Apple չիպեր՝ կազմաձևումը պարզապես փոխելով։ Սակայն AWS-ն պնդում է, որ Trainium-ը առաջարկում է այն, ինչ այդ տարբերակները չեն՝ Amazon-ի ամբողջ ամպային հասանելիությունը։

Ամպային փաստարկը

AWS Annapurna Labs-ի՝ Amazon-ի սեփական չիպերն արտադրող ստորաբաժանման, տեխնոլոգիական ծրագրային ապահովման գծով փոխնախագահ Կոլին Բրեյսը ասել է, որ AWS-ի վրա հիմնվող ստարտափները խուսափում են մեկ նպատակի համար նախատեսված հաշվողական մատակարարի վրա խաղադրույք կատարելուց և հետո շուրջը ամեն ինչ շտապ կառուցելուց։ Նա որպես օրինակ նշել է Nvidia-ի սարքավորումներին կապված նեոկլաուդները՝ Coreweave, Nebius և Firmus, որպես այլընտրանքներ, որոնք չունեն նախատիպից արտադրություն անցնելու ենթակառուցվածք։

AWS-ն պնդում է, որ քանի որ նույն Trainium չիպը միաժամանակ կատարում է և՛ վերապատրաստում, և՛ ինֆերենս և սեղմ ինտեգրված է ամպային ենթակառուցվածքի հետ, ստարտափները գումար են խնայում, նույնիսկ եթե AWS-ն մեկ տոկենի համար ամենացածր գին չի առաջարկում։ Բրեյսը հղել է Deepgram-ը, AI ձայնային հավելվածների մատակարարը, որը, ըստ նրա, տեղափոխվել է Trainium՝ օգտագործելով բնիկ PyTorch աջակցությունը և այժմ արտադրության մակարդակի ճշգրտությամբ մշակում է մեկ դոլարի համար 70% ավելի շատ աուդիո։

PyTorch-ի հեռացումը Nvidia-ից

Amazon-ն հայտնում է, որ փոփոխություններ է ուղարկում հիմնական PyTorch նախագծին՝ համագործակցելով PyTorch համայնքի հետ՝ հեռացնելու կոդը, որը կապում է գործիքը որոշակի չիպերի հետ։ Հայտարարված նպատակն է PyTorch-ը ավելի անկախ դարձնել սարքավորումից ամբողջ ծրագրավորողների համայնքի համար, ոչ միայն Trainium օգտատերերի համար։ Եթե Amazon-ին հաջողվի խորը կերպով ազատեցնել PyTorch-ը Nvidia-ից, GPU հսկայի վրա ազդեցությունը կարող է շատ ավելի հեռու գնալ, քան այլ չիպ արտադրողների մրցակցությունը։ Ինչպես ասել է Բրեյսը, իրական պատմությունն է կողպումը հեռացնելը, որը ծրագրավորողներին չէր թույլատրում իրական ընտրություն ունենալ։

Աղբյուրներ: TechCrunch · GeekWire · PyTorch Blog