NVIDIA ModelExpress — הפצת מודלים במהירות האור על פני אשכולות GPU

NVIDIA ModelExpress — עידן חדש בהפצת מודלים

ככל שמודלי AI גדלים, הפצה יעילה של המשקלים שלהם הופכת קריטית יותר. מודלים כמו DeepSeek-V4 Pro תופסים מאות גיגה-בייטים. NVIDIA הציגה את ModelExpress (MX) — מערכת חדשה שמשנה מהותית את הגישה להפצת משקלי מודלים על גבי אשכולות GPU.

איך ModelExpress עובד

כששרת משרת כבר מחזיק משקלים תואמים ב-GPU, MX מעביר אותם ישירות מ-GPU ל-GPU דרך P2P RDMA. MX מעביר משקלי DeepSeek-V4 Pro תוך פחות מ-10 שניות, במקום 8 דקות.