როგორ დააპროექტა OpenAI-მ Jalapeño-ს ჩიპი საკუთარი LLM-ებით
OpenAI-ის პირველი AI აჩქარებელი Jalapeño კონცეფციიდან პირველ სილიკონამდე 20 თვეზე ნაკლებ დროში მივიდა — დიზაინში კომპანიის საკუთარი ენობრივი მოდელები დაეხმარა.
რა მოხდა
IEEE Spectrum-ის ცნობით, OpenAI-ის პირველი AI აჩქარებელი ჩიპი Jalapeño კომპანიის საკუთარი დიდი ენობრივი მოდელების დახმარებით შეიქმნა. ჩიპმა პირველი არქიტექტურული კონცეფციიდან პირველ სილიკონამდე 20 თვეზე ნაკლებ დროში მიაღწია, პირველი RTL-დან ტეიპაუტამდე კი მხოლოდ ცხრა თვე გავიდა.
Jalapeño 4-ბიტიან გამოთვლებში 13,4 პეტაფლოპამდე სიმძლავრეს, 232 გიგაბაიტ HBM4 მეხსიერებას და 15,4 ტბ/წმ გამტარობას გვთავაზობს. OpenAI-ის მონაცემებით, ის Nvidia-ს GB300-თან შედარებით დაგვიანებას 3,6-ჯერ ამცირებს და ნაკლებ ენერგიას მოიხმარს.
რატომ არის მნიშვნელოვანი
„მოდელები ჩვენს ინჟინრებს სუპერძალებს აძლევს“, — ამბობს რიჩარდ ჰო, OpenAI-ის ჰარდვეირის ვიცე-პრეზიდენტი. გუნდში 100-ზე ნაკლები ადამიანი მუშაობდა, ფიზიკურ დიზაინზე კი Broadcom-თან ერთად. ექსპერტების თქმით, ეს ტემპი სულ მალე ნელი მოჩვენდება.