OpenAI חשפה את Jalapeño, השבב העצמאי הראשון שלה, שנבנה עם Broadcom

OpenAI הציגה ביום רביעי את מעבד ההסקה הראשון שפיתחה בעצמה, שתוכנן ומיוצר בשיתוף פעולה עם Broadcom. שם השבב הוא Jalapeño, ולפי החברה הוא נבנה במיוחד סביב הצרכים של מערכות ההסקה של OpenAI. לפי ההודעה, גם מודלי הבינה המלאכותית של החברה סייעו בפיתוח.

תוצאות ראשוניות ובדיקות

המעבד עדיין נבדק. OpenAI אומרת שתוצאות ראשוניות מראות ביצועים לוואט טובים באופן משמעותי מהחלופות המתקדמות הקיימות — מדד שמשפיע ישירות על עלות הפעלת מודלים בקנה מידה גדול.

השותפות עם Broadcom הוכרזה רשמית באוקטובר, אך תוכניותיה של OpenAI לייצר שבבים משל עצמה היו כבר מזמן נושא לשמועות כדרך לצמצם את התלות במעבדי GPU של Nvidia. גם Google ו-Amazon בנו שבבים משלהן למטרה דומה — מה שמכונה מאיצי בינה מלאכותית, שנועדו להאיץ עומסי עבודה של למידת מכונה.

להסקה, לא לאימון

Jalapeño מיועד להסקה: הרצת מודלים מאומנים מראש בתגובה לבקשות משתמשים. בהודעה הדגישה OpenAI את עלות ההפעלה הנמוכה של השבב בהרצת מודלי קוד בזמן אמת. משימות עתירות ביצועים כמו אימון מקדים כנראה ימשיכו להישען על חומרה של Nvidia, אבל גם הפחתה מתונה בעלויות ההסקה משפרת את הכלכלה של העסק.

נשיא OpenAI, גרג ברוקמן, תיאר בפודקאסט הפנימי של החברה את הגישה לפיתוח שבבים, זמן קצר לאחר ההכרזה על השותפות עם Broadcom. "יש לנו הבנה עמוקה של עומס העבודה", אמר ברוקמן. "באמת חיפשנו עומסי עבודה ספציפיים שאינם מקבלים מענה מספק, ושאלנו איך נוכל לבנות משהו שיאיץ את מה שאפשרי".

אופטימיזציה על פני כל המחסנית

OpenAI כבר בונה מוצרים סוכניים כמו Codex, את המודלים שמפעילים אותם ואת מרכזי הנתונים שמריצים אותם. שבבים ייעודיים מרחיבים את העבודה הזו עמוק יותר במחסנית. "OpenAI לא רק מפתחת מודלי חזית או בונה מוצרים מעליהם; היא מתכננת את התשתית שמתחתם: ארכיטקטורת שבבים, קרנלים, מערכות זיכרון, רשתות, תזמון, מערכות פריסה וחוויית מוצר", כתבה החברה. "מכיוון ש-OpenAI פועלת על פני כל המחסנית, כל שכבה יכולה להיות מאופטמת סביב אותה מטרה: להפוך את המודלים שלה למהירים, אמינים וזולים יותר עבור המשתמשים".