OpenAI Broadcom ilə hazırladığı ilk xüsusi çipini təqdim edib: Jalapeño

OpenAI çərşənbə günü Broadcom ilə birgə layihələndirilən və istehsal olunan ilk xüsusi inferens prosessorunu təqdim edib. Çipin adı Jalapeño-dur və şirkətin sözlərinə görə, o, məhz OpenAI-ın inferens sistemlərinin ehtiyacları üçün hazırlanıb. Bəyanata əsasən, hazırlanma prosesində OpenAI-ın öz süni intellekt modelləri də iştirak edib.

İlk nəticələr və sınaqlar

Prosessor hələ də sınaq mərhələsindədir. OpenAI bildirir ki, ilk nəticələr mövcud ən yaxşı alternativlərlə müqayisədə vatt başına məhsuldarlığın xeyli yaxşı olduğunu göstərir; bu göstərici modellərin geniş miqyasda xidmət göstərilməsi xərcinə birbaşa təsir edir.

Broadcom ilə tərəfdaşlıq oktyabrda rəsmi şəkildə elan olunmuşdu, amma OpenAI-ın öz silikonunu istehsal etmək planları Nvidia GPU-larından asılılığı azaltmaq yolu kimi çoxdan müzakirə olunurdu. Bənzər məqsədlə xüsusi çip hazırlayanlar arasında Google və Amazon da var; onlara süni intellekt sürətləndiriciləri deyilir və maşın öyrənməsi yüklərini sürətləndirmək üçün nəzərdə tutulub.

Təlim üçün deyil, inferens üçün

Jalapeño inferens üçün hazırlanıb: yəni əvvəlcədən öyrədilmiş modellərin istifadəçi sorğularına cavab olaraq işə salınması. OpenAI bəyanatda çipin real vaxtda işləyən kodlaşdırma modelləri üzrə aşağı istismar xərcini xüsusi vurğulayıb. İlkin təlim kimi daha ağır işlər böyük ehtimalla yenə Nvidia avadanlığına bağlı qalacaq, amma inferens xərclərindəki cüzi azalma belə biznesin iqtisadiyyatını yaxşılaşdırır.

OpenAI prezidenti Qreq Brokman Broadcom tərəfdaşlığı elan olunandan qısa müddət sonra şirkətin daxili podkastında çip hazırlanması yanaşmasını izah edib. «Biz bu yükü dərindən başa düşürük», — deyib Brokman. «Həqiqətən də kifayət qədər diqqət yetirilməyən konkret yüklər axtarırdıq və soruşurduq: mümkün olanı sürətləndirə biləcək nəyi necə qura bilərik?»

Bütün stek üzrə optimallaşdırma

OpenAI artıq Codex kimi agent əsaslı məhsullar, onları işlədən modellər və bu modellərin yerləşdiyi data mərkəzləri qurur. Xüsusi çiplər bu işi stekin daha aşağı qatlarına aparır. Şirkət yazır: «OpenAI yalnız öncü modellər hazırlamır və ya onların üzərində məhsullar qurmur; o, həm də onların altındakı infrastrukturu layihələndirir: çip arxitekturasını, nüvələri, yaddaş sistemlərini, şəbəkəni, planlaşdırmanı, yerləşdirmə sistemlərini və məhsul təcrübəsini». «OpenAI bütün stek üzrə işlədiyi üçün hər qat eyni məqsəd ətrafında optimallaşdırıla bilər: modelləri istifadəçilər üçün daha sürətli, daha etibarlı və daha sərfəli etmək».