Amazon-მა TorchNeuron-ის ბეტა გახსნა, რათა PyTorch-ის კოდი Trainium-ის ჩიპებზე გაუშვას

Trainium-ზე გადასვლის გამარტივებული გზა

Amazon-მა TorchNeuron საჯარო ბეტად გახსნა დახურული ბეტის შემდეგ, რომელიც გასული წლის ბოლოს დაიწყო. პროგრამული უზრუნველყოფა PyTorch-სა და Amazon-ის Trainium-ის ჩიპებს შორის მუშაობს და დეველოპერებს საშუალებას აძლევს, არსებული PyTorch-ის კოდი ძირითადი კონფიგურაციის ცვლილების შემდეგ გაუშვან, ნაცვლად იმისა, რომ ის ჩიპის სპეციფიკურ ინტერფეისებზე გადაწერონ.

Annapurna Labs-ის ტექნოლოგიური პროგრამული უზრუნველყოფის ვიცე-პრეზიდენტმა კოლინ ბრეისმა მიზანი ასე აღწერა: „If you know PyTorch, then you know Trainium.“ მისი თქმით, PyTorch-ის კოდის სხვა აპარატურაზე ადაპტირებას შეიძლება თვეები დასჭირდეს, თუ ის Nvidia-ს CUDA პლატფორმაზეა დამოკიდებული, და ახალი ინსტრუმენტი სწორედ ამ ბარიერის მოხსნას ისახავს მიზნად.

რას მოიცავს ბეტა

დახურული ბეტის დროს TorchNeuron-ს 30-ზე მეტი კომპანია და Amazon-ის შიდა გუნდები იყენებდნენ. Deepgram-მა, სან-ფრანცისკოში დაფუძნებულმა მეტყველების AI სტარტაპმა, განაცხადა, რომ ბენჩმარკებმა აჩვენა: Trainium-ს ერთ დოლარზე დაახლოებით 60% მეტი აუდიოს დამუშავება შეუძლია, ვიდრე მის არსებულ GPU კონფიგურაციას, და ბრეისის თქმით, კომპანია ახლა Trainium-ს პროდაქშენში იყენებს.

Amazon-მა ასევე განაცხადა, რომ TorchNeuron ღია კოდის სახით სამშაბათს გამოვა, სან-ხოსეში (კალიფორნია) PyTorch Conference-ის პარალელურად. მოდელების ფართო სპექტრის დასაფარად Amazon ყოველ ღამე TorchNeuron-ს Hugging Face-ის 100 000-ზე მეტ მოდელზე ამოწმებს.

Amazon-ის შიგნით Prime Video-ს გუნდმა TorchNeuron-ს გამოიყენა Prime 360-ის შესაქმნელად. ეს არის AI სისტემა, რომელიც NBA-ის სათამაშო მომენტებს 3D-ში აღადგენს გამეორებებისთვის ისეთი კუთხეებიდან, რომლებსაც ტრადიციული კამერები ვერ იღებენ. ფუნქცია Trainium-ზე მუშაობს და ამ NBA-ის სეზონში Prime Video-ს შერჩეულ ტრანსლაციებში გამოჩნდება.

მოთხოვნა და ბაზრის ზეწოლა

Trainium-ის უმსხვილეს მომხმარებლებს შორის არიან AI ლაბორატორიები, რომლებსაც Amazon-თან მჭიდრო ფინანსური კავშირები აქვთ. Anthropic-ი ჩიპებს Claude-ის მოდელების გასაწვრთნელად და გასაშვებად იყენებს, ხოლო OpenAI-მა თებერვალში შეთანხმდა, რომ 2 გიგავატი Trainium-ის სიმძლავრე გამოიყენოს იმ გარიგების ფარგლებში, რომლითაც Amazon-ი OpenAI-ში 50 მილიარდ დოლარს ინვესტირებს.

ენდი ჯესიმ აპრილში დაწერა, რომ Amazon-ის ჩიპების ბიზნესს, მათ შორის Trainium-სა და Graviton-ს, წლიური შემოსავლის ტემპი 20 მილიარდ დოლარზე მეტი ჰქონდა, და მისი შეფასებით, ეს დაახლოებით 50 მილიარდი დოლარი იქნებოდა, თუ ჩიპებს დამოუკიდებელი ჩიპების ბიზნესი გაყიდდა. Amazon-ი ამ ქვედანაყოფის საწყისებს 2015 წელს ისრაელური ჩიპების მწარმოებელი კომპანიის Annapurna Labs-ის შეძენას უკავშირებს; გავრცელებული ინფორმაციით, გარიგება 350 მილიონ დოლარი ღირდა.

წყაროები: GeekWire · About Amazon · PyTorch Blog