OpenAI Jalapeño Çipini Kendi LLM'leriyle Nasıl Tasarladı?
OpenAI'ın ilk yapay zekâ hızlandırıcısı Jalapeño, kavramdan silikona 20 aydan kısa sürede geçti — tasarımda şirketin kendi dil modelleri kullanıldı.
Ne oldu
IEEE Spectrum’a göre OpenAI’ın ilk yapay zekâ hızlandırıcısı Jalapeño, şirketin kendi büyük dil modellerinin yardımıyla tasarlandı. Çip, ilk mimari konseptten ilk silikona 20 aydan kısa sürede ulaştı; ilk RTL ile tape-out arasında yalnızca dokuz ay vardı.
Jalapeño, 4 bitlik hesaplamada 13,4 petaflop’a kadar performans, 232 GB HBM4 bellek ve 15,4 TB/s bant genişliği sunuyor. OpenAI’a göre Nvidia GB300’e kıyasla uçtan uca gecikmeyi 3,6 kata kadar azaltıyor ve daha az güç harcıyor.
Neden önemli
OpenAI donanım başkan yardımcısı Richard Ho, “Modeller mühendislerimize süper güç veriyor” diyor. Projede 100’den az kişi çalıştı; fiziksel tasarımı Broadcom üstlendi. Uzmanlar bu takvimi inandırıcı buluyor ve yakında yavaş görüneceğini söylüyor.