חזרה
NVIDIA מציגה את NodeWright: מנהל חבילות נייטיבי ל-Kubernetes לניהול ציי צמתים
SiTech AI Team2 წთ. საკითხავი

NVIDIA מציגה את NodeWright: מנהל חבילות נייטיבי ל-Kubernetes לניהול ציי צמתים

NVIDIA חשפה את NodeWright, מנהל חבילות בקוד פתוח ונייטיבי ל-Kubernetes שמגדיר ומעדכן את מערכות ההפעלה של צמתי GPU באופן דקלרטיבי, בלי לשבש עומסי עבודה פעילים, והוא כבר רץ בפרודקשן.

NVIDIA חשפה את NodeWright, מנהל חבילות בקוד פתוח ונייטיבי ל-Kubernetes, שמגדיר ומעדכן את מערכות ההפעלה של צמתי GPU באופן דקלרטיבי, בלי לשבש עומסי עבודה פעילים. הכלי כבר רץ בפרודקשן ב-NVIDIA בשם Skyhook והוא חלק מ-DSX OS.

מסקריפטים לניהול דקלרטיבי של צמתים

צוותים מנהלים היום צמתים בעזרת Ansible, סקריפטים ונהלים ידניים. הגישה הזו נשברת כשעדכון קרנל מפיל את RDMA, או כשיש לתקן CVE במאות מכונות. חומרת GPU נדירה, ואי אפשר פשוט להעביר עבודות אימון ארוכות — כך שהמשימה האמיתית היא לשנות את כל הצי בלי לעצור את האימון.

איך NodeWright עובד

החבילות הן Custom Resources של Kubernetes, ולכן נפרסות דרך kubectl, Helm או Argo CD. בכל צומת יעד האופרטור מריץ רצף קבוע: cordon, המתנה ל-pods שאין לקטוע, drain לשאר, החלה וקונפיגורציה של החבילה, ואז uncordon — עם אתחול שירות או צומת רק לפי הצורך.

תרשים רצף העדכון בן ששת השלבים של NodeWright

החבילות יכולות לכוונן פרמטרים של sysctl ו-GRUB, להתקין סוכני אבטחה ולתקן CVE. NodeWright עוקב אחר הגרסה של כל חבילה בכל צומת וקובע את סדר ההרצה לפי תלויות; חבילת CVE יכולה לזהות שמודול קרנל פגיע עדיין טעון ולסמן את עצמה כנכשלה.

פריסות בטוחות בקנה מידה

משאב DeploymentPolicy מגדיר תאים — קבוצות צמתים לפי תוויות, שלכל אחת תקציב שיבוש ואסטרטגיה משל עצמה: גדלי אצווה קבועים, גדילה לינארית (1, 2, 3…) וגדילה אקספוננציאלית (1, 2, 4, 8…). סף אצווה קובע את שיעור ההצלחה הנדרש כדי להתקדם, וסף כשלים יכול לעצור תא לאחר כשלים חוזרים.

השוואת אסטרטגיות אצווה קבועה, לינארית ואקספוננציאלית

אם משהו משתבש, העדכון נעצר במקום להתפשט: השגיאות מופיעות בסטטוס, Job-ים שנכשלו מסומנים, והצמתים מקבלים תוויות לאבחון דרך ה-API של Kubernetes. אפשר לחייב צמתים חדשים להצטרף עם taint שמוסר רק לאחר שכל החבילות והבדיקות עוברות.

אקוסיסטם וזמינות

NodeWright משתלב עם NVIDIA AI Cluster Runtime (AICR), שמפרסם מתכונים של קונפיגורציות מאומתות כחבילות מוכנות ל-Helm, Argo CD או Flux, ועובד לצד NVCRE ו-NVSentinel. ברישיון Apache 2.0 הוא מותקן ב-Helm מתוך ארטיפקט OCI; חבילות הכיול מכסות GPU מדורות Hopper ו-Blackwell, צמתי Google Kubernetes Engine וקלייסטרים של Amazon EKS עם דרייברי EFA.

SSiTech

SiTech — פיתוח אתרים בכוח ה-AI

אנחנו בונים אתרים מהירים ומודרניים ומשלבים AI בתהליכי עבודה אמיתיים. יש לכם פרויקט או שאלה? נשמח לעזור.