AWS-მა TorchNeuron-ი გამოუშვა PyTorch-ის აპების Trainium-ის ჩიპებზე გადასაყვანად

Amazon Web Services-მა გამოუშვა ახალი დეველოპერული ინსტრუმენტი TorchNeuron, რომელიც საშუალებას აძლევს PyTorch-ით შექმნილ AI აპლიკაციებს Amazon-ის საკუთარ Trainium AI ჩიპებზე იმუშაონ კონფიგურაციის მხოლოდ ერთი ხაზის შეცვლით, კოდის გადაწერის გარეშე. ეს გამოშვება Amazon-ის ყველაზე პირდაპირი გამოწვევაა Nvidia-ს იმ პოზიციაზე, რომ AI აპლიკაციებისთვის ნაგულისხმევი ჰარდვარული არჩევანია.

როგორ მუშაობს TorchNeuron

TorchNeuron შექმნილია PyTorch-ის ბაზაზე, უფასო და ღია კოდის ინსტრუმენტზე, რომელსაც დეველოპერები AI მოდელების შესაქმნელად, გასაწვრთნელად და გასაშვებად იყენებენ. Amazon-ის თქმით, AI აპლიკაციების დაახლოებით 85% PyTorch-ით იწერება. ვინაიდან ინსტრუმენტი თავად PyTorch-ს ეფუძნება, დეველოპერებს, რომლებმაც ეს ფრეიმვორკი უკვე იციან, მისი დაუყოვნებლივ გამოყენება შეუძლიათ. PyTorch თავდაპირველად Facebook-მა შექმნა, ხოლო 2022 წლიდან მას Linux Foundation-ი ინარჩუნებს.

Nvidia-მ წლების განმავლობაში ზრუნავდა, რომ მისი CUDA პროგრამული ინფრასტრუქტურა, რომელიც აპლიკაციებს Nvidia-ს GPU-ებსა და სხვა ჰარდვარზე მუშაობის საშუალებას აძლევს, უპრობლემოდ მხარს უჭერდა PyTorch-ის აპლიკაციებს, რითაც მისი ჰარდვარი ფაქტობრივად ფრეიმვორკის ნაგულისხმევ ნაწილად იქცა. Amazon-ი არ არის პირველი კომპანია, რომელიც მარტივი პორტირების გზას გვთავაზობს, რადგან PyTorch-ის მომხმარებლებს შეუძლიათ თავიანთი აპლიკაციები მარტივი კონფიგურაციის ცვლილებით AMD-ის GPU-ებზე ან Apple-ის ჩიპებზეც გადაიტანონ. თუმცა AWS-ის არგუმენტით, Trainium-ი გვთავაზობს იმას, რაც ამ ალტერნატივებს არ აქვთ: წვდომას Amazon-ის მთელ ღრუბელზე.

არგუმენტი ღრუბლის სასარგებლოდ

კოლინ ბრეისი, AWS Annapurna Labs-ის, Amazon-ის საკუთარი ჩიპების მწარმოებელი ქვედანაყოფის, ტექნოლოგიური პროგრამული უზრუნველყოფის ვიცე-პრეზიდენტი, ამბობს, რომ AWS-ის პლატფორმაზე მომუშავე სტარტაპები თავს არიდებენ იმას, რომ ფსონი დადონ მხოლოდ ერთი ამოცანისთვის განკუთვნილ გამოთვლით პროვაიდერზე და შემდეგ ნაჩქარევად ააწყონ დანარჩენი ყველაფერი მის ირგვლივ. მან მაგალითად მოიყვანა Nvidia-ს ჰარდვარზე მიბმული ნეოღრუბლები, როგორიცაა Coreweave, Nebius და Firmus, როგორც ალტერნატივები, რომლებსაც აკლიათ ინფრასტრუქტურა პროტოტიპიდან წარმოებამდე მისასვლელად.

AWS-ის მტკიცებით, რადგან ერთი და იგივე Trainium ჩიპი როგორც წვრთნას, ისე ინფერენსს ამუშავებს და მჭიდროდ არის ინტეგრირებული ღრუბლოვან ინფრასტრუქტურასთან, სტარტაპები ფულს ზოგავენ მაშინაც კი, როცა AWS ტოკენზე ყველაზე დაბალ ფასს არ გვთავაზობს. ბრეისმა მაგალითად მოიყვანა Deepgram, AI ხმოვანი აპლიკაციების პროვაიდერი, რომელიც, მისი თქმით, Trainium-ზე გადავიდა PyTorch-ის ნატიური მხარდაჭერის გამოყენებით და ახლა საწარმოო დონის სიზუსტით დოლარზე 70%-ით მეტ აუდიოს ამუშავებს.

PyTorch-ის Nvidia-სგან გამოყოფა

Amazon-ის თქმით, ის ცვლილებებს აგზავნის მთავარ PyTorch პროექტში და PyTorch-ის საზოგადოებასთან ერთად მუშაობს, რათა ამოიღოს კოდი, რომელიც ფრეიმვორკს კონკრეტულ ჩიპებზე აკავშირებს. გამოცხადებული მიზანია, PyTorch მთელი დეველოპერული საზოგადოებისთვის, და არა მხოლოდ Trainium-ის მომხმარებლებისთვის, უფრო ჰარდვარისგან დამოუკიდებელი გახადოს. თუ Amazon-ი მოახერხებს PyTorch-ის Nvidia-სგან ღრმად გამოყოფას, გავლენა GPU გიგანტზე შეიძლება ბევრად გასცდეს სხვა ჩიპმწარმოებლების კონკურენციის ფარგლებს. როგორც ბრეისმა აღნიშნა, ნამდვილი ამბავი იმ ჩაკეტვის მოშორებაა, რომელიც დეველოპერებს რეალური არჩევანის გაკეთების საშუალებას საერთოდ არ აძლევდა.

წყაროები: TechCrunch · GeekWire · PyTorch Blog