DeepSeek פרסמה את DSec: פלטפורמת ארגזי חול לאימון סוכני AI בקנה מידה גדול

DeepSeek פרסמה ב-19 בספטמבר דוח טכני ב-arXiv על DeepSeek Elastic Compute (DSec). מדובר לא בסביבת הרצה בודדת אלא במערכת ייצור שעליה החברה מאמנת ומעריכה מודלים סוכניים: במהלך ריצות RL המודל מריץ פקודות, קורא קבצים ומפעיל כלים בסביבות מבודדות, וזהו העומס הכבד ביותר על התשתית.

לפי הדוח, יחידת ייצור אחת משתרעת על כמעט 160 צמתי CPU עם 30,000 ליבות וכ-250 טרה-בייט של DRAM. ביום טיפוסי היא משרתת כשלושה מיליון ארגזי חול; בו-זמניות השיא עומדת על 380 אלף, וקצב היצירה עולה על 5,000 ארגזים בשנייה.

SDK אחד וארבעה סוגי ארגזי חול

DSec חושפת ארבעה בקאנדים דרך לקוח Python אחד, libdsec: ‏FnCall למשימות קצרות חסרות מצב, קונטיינרים לעבודה הנדסית ולשימוש בכלים, microVM של Firecracker לבידוד חזק יותר, ומכונות וירטואליות מלאות כשנדרשת מערכת הפעלה שלמה, למשל Android. לדברי המחברים, אף הפשטה אחת של ארגז חול לא מכסה את כל המשימות הסוכניות.

כל סביבה נבנית משכבות שגרסאותיהן מנוהלות בנפרד: תמונת בסיס, סביבת עבודה עם המאגר של המשימה ו-toolkit-ים שמתעדכנים בתדירות גבוהה. הן מאוחדות באמצעות overlayfs במקום להיות ממוזגות לתמונה מונוליטית אחת. בשבוע ייצור אחד שירתה הפלטפורמה יותר מ-11,000 תמונות בסיס ויותר מ-102,000 סביבות עבודה.

צפיפות, זיכרון ו-3FS

ארגזי חול של סוכנים שומרים על מצב, ורוב הזמן הם בהמתנה: כ-90% מהקונטיינרים וה-microVM-ים משתמשים בלא יותר מ-5% מה-CPU שביקשו. לכן DSec דוחסת צמתים: עד 3,200 קונטיינרים או 800 microVM-ים בכל צומת, בעוד virtio-pmem ו-DAMON מפחיתים את שיא הזיכרון ב-40.2% ואת הצריכה המשוקללת בזמן ב-21.2%. במשימות רגישות להשהיה, SCHED_IDLE יחד עם core scheduling מפחית את ההאטה בגלל SMT מ-45.2% ל-17.3%.

נתוני התמונות נטענים לפי דרישה מ-3FS, מערכת הקבצים המבוזרת של DeepSeek, בעוד המטא-דאטה של EROFS נשארת מקומית. בהתפרצות של 8,192 קונטיינרים, משיכה מוקדמת של תמונות שלמות האריכה את זמן ההשלמה פי 1.71 וכתבה כ-57% יותר נתונים: ארגזי החול נוגעים רק ב-4% עד 13% מתוכן התמונות.

תכנון משותף עם מסגרת ה-RL

DSec תוכננה יחד עם מסגרת ה-RL של DeepSeek. משימות אימון על GPU נקטעות לעיתים קרובות, ולכן הרצת ה-rollout הועברה כולה ל-DSec, מחוץ למאגר ה-GPU המשמש לאימון; בקשת השהיה מאפשרת לפלטפורמה לפנות זיכרון תוך שמירה על מצב ארגז החול. הדוח מתאר גם התנהגות לא רצויה של סוכנים ואת דרכי המיתון: בקרת גישה של AppArmor ורשימות היתר ברשת של eBPF. רכיבי האחסון, ‏OverlayBD ב-Rust וספריית ublk, נפתחו כקוד פתוח.