OpenAI-მ პირველი საკუთარი ჩიპი წარადგინა — Jalapeño, Broadcom-თან ერთად

OpenAI-მ ოთხშაბათს წარადგინა თავისი პირველი საკუთარი წარმოების ინფერენსის პროცესორი, რომელიც Broadcom-თან თანამშრომლობით შეიქმნა და იწარმოება. ჩიპს Jalapeño ჰქვია და, კომპანიის თქმით, ის სპეციალურად OpenAI-ის ინფერენსის სისტემების საჭიროებებისთვისაა აწყობილი. განცხადების მიხედვით, შემუშავების პროცესში OpenAI-ის საკუთარი AI მოდელებიც მონაწილეობდნენ.

ადრეული შედეგები და ტესტირება

პროცესორი ჯერ კიდევ ტესტირების ეტაპზეა. OpenAI აცხადებს, რომ ადრეული შედეგები აჩვენებს მნიშვნელოვნად უკეთეს შედეგს ვატზე გათვლილ წარმადობაში (performance-per-watt), ვიდრე არსებული საუკეთესო ალტერნატივები — ეს მაჩვენებელი კი პირდაპირ აისახება მოდელების მასშტაბურად მომსახურების ღირებულებაზე.

Broadcom-თან პარტნიორობა ოფიციალურად ოქტომბერში გამოცხადდა, თუმცა OpenAI-ის გეგმები საკუთარი სილიციუმის წარმოებაზე დიდი ხანია ვრცელდებოდა როგორც Nvidia-ს GPU-ებზე დამოკიდებულების შემცირების გზა. მსგავსი მიზნით საკუთარი ჩიპები უკვე ააშენეს Google-მა და Amazon-მა — ე.წ. AI ამაჩქარებლები, რომლებიც მანქანური სწავლების დატვირთვის დაჩქარებას ემსახურება.

ინფერენსისთვის, არა წვრთნისთვის

Jalapeño ინფერენსისთვისაა განკუთვნილი — ანუ უკვე გაწვრთნილი მოდელების გაშვებისთვის მომხმარებლის მოთხოვნის საპასუხოდ. განცხადებაში OpenAI ხაზს უსვამს ჩიპის დაბალ ოპერაციულ ხარჯს რეალურ დროში მომუშავე კოდირების მოდელების შემთხვევაში. უფრო რესურსინტენსიური ამოცანები, მაგალითად წინასწარი წვრთნა, სავარაუდოდ კვლავ Nvidia-ს აპარატურაზე დარჩება, თუმცა ინფერენსის ხარჯის მცირე შემცირებაც კი ბიზნესის ეკონომიკას აუმჯობესებს.

OpenAI-ის პრეზიდენტმა გრეგ ბროკმანმა კომპანიის შიდა პოდკასტზე ახსნა ჩიპების შემუშავების მიდგომა — Broadcom-თან პარტნიორობის გამოცხადებიდან მალევე. „ჩვენ კარგად გვესმის ეს დატვირთვა“, — თქვა ბროკმანმა. „ჩვენ რეალურად ვეძებდით კონკრეტულ დატვირთვებს, რომლებიც ჯერ კიდევ არასაკმარისადაა მოცული, და ვსვამდით კითხვას: როგორ ავაშენოთ ისეთი რამ, რაც შესაძლებლობების აჩქარებას შეძლებს?“

ოპტიმიზაცია მთელ სტეკზე

OpenAI უკვე აშენებს აგენტურ პროდუქტებს, როგორიცაა Codex, მათ მამოძრავებელ მოდელებს და მონაცემთა ცენტრებს, სადაც ეს მოდელები მუშაობს. სპეციალურად შექმნილი ჩიპები ამ პროცესს სტეკის უფრო ქვედა დონეებზე აგრძელებს. „OpenAI არა მხოლოდ ავითარებს წამყვან მოდელებს ან აშენებს პროდუქტებს მათ თავზე; ის ქმნის ინფრასტრუქტურას მათ ქვეშ: ჩიპების არქიტექტურას, ბირთვებს, მეხსიერების სისტემებს, ქსელს, დაგეგმვას, განლაგების სისტემებსა და პროდუქტის გამოცდილებას“, — წერს კომპანია. „რადგან OpenAI მთელ სტეკზე მუშაობს, ყოველი დონის ოპტიმიზაცია ერთ საერთო მიზანს ემსახურება: მოდელები უფრო სწრაფი, საიმედო და მომხმარებლისთვის ხელმისაწვდომი გახდეს.“