OpenAI Jalapeño çipini öz LLM-ləri ilə necə dizayn etdi?
OpenAI-ın ilk süni intellekt akseleratoru Jalapeño konseptdən silikona 20 aydan az müddətdə keçdi — dizaynda şirkətin öz dil modelləri kömək etdi.
Nə baş verdi
IEEE Spectrum-un məlumatına görə, OpenAI-ın ilk süni intellekt akseleratoru Jalapeño şirkətin öz böyük dil modellərinin köməyi ilə dizayn edilib. Çip ilk memarlıq konseptindən ilk silikona 20 aydan az müddətdə çatdı; ilk RTL-dən tape-out-a isə cəmi doqquz ay keçdi.
Jalapeño 4 bitlik hesablamada 13,4 petaflopsa qədər güc, 232 GB HBM4 yaddaş və 15,4 TB/s ötürmə qabiliyyəti təqdim edir. OpenAI-a görə, Nvidia GB300 ilə müqayisədə uçdan-uca gecikməni 3,6 dəfəyə qədər azaldır və daha az enerji sərf edir.
Niyə vacibdir
OpenAI-ın aparat təchizatı üzrə vitse-prezidenti Riçard Ho deyir: “Modellər mühəndislərimizə super güclər verir”. Layihədə 100-dən az adam çalışdı; fiziki dizaynı Broadcom həyata keçirdi. Ekspertlər bu qrafiki inandırıcı sayır və tezliklə yavaş görünəcəyini qeyd edirlər.