Ինչպես OpenAI-ն իր Jalapeño չիպը նախագծեց սեփական LLM-ներով

Ինչ տեղի ունեցավ

IEEE Spectrum-ի տվյալներով՝ OpenAI-ի առաջին AI արագացուցիչ Jalapeño-ն նախագծվել է ընկերության սեփական խոշոր լեզվական մոդելների օգնությամբ։ Առաջին ճարտարապետական հայեցակարգից մինչև առաջին սիլիցիում անցավ 20 ամսից պակաս, իսկ առաջին RTL-ից մինչև tape-out՝ ընդամենը ինը ամիս։

Jalapeño-ն ապահովում է մինչև 13,4 պետաֆլոպս 4-բիթ հաշվարկ, 232 ԳԲ HBM4 հիշողություն և 15,4 ՏԲ/վ թողունակություն։ OpenAI-ի գնահատմամբ՝ այն Nvidia GB300-ի համեմատ կրճատում է հետաձգումը մինչև 3,6 անգամ՝ ավելի քիչ էներգիա ծախսելով։

Ինչու է կարևոր

«Մոդելները գերհզորություններ են տալիս մեր ինժեներներին»,— ասում է OpenAI-ի ապարատային ապահովման գծով փոխնախագահ Ռիչարդ Հոն։ Թիմում 100-ից պակաս մարդ էր, ովքեր աշխատում էին Broadcom-ի հետ, որը զբաղվում էր ֆիզիկական նախագծմամբ։