עליית ה-AI הסוכני ב-Kubernetes: שכבת תשתית חדשה

סוכני AI כבר יכולים לצפות באשכולות Kubernetes, לנמק על מה שהם מגלים ולפעול במסגרת גבולות שהוגדרו מראש. במאמר שפורסם ב-The New Stack טוען ריס אוקסנהם, סגן נשיא ומנהל כללי של תחום ה-AI ב-SUSE, ששווי המערכות האלה תלוי פחות במודלים ויותר בהקשר שהסוכן רואה ובגבולות שהצוות משרטט סביבו. בלי מצב האשכול, מדיניות וכללי הרשאה, הסוכן יכול רק לנחש.

מה משתנה כשהבינה מגיעה לשכבת התשתית

בעבר התייחסו צוותים ל-AI כאל עניין של אפליקציות: המודלים ישבו מעל המערכות הקיימות והמחסנית שמתחתן נותרה כמעט בלי שינוי. זה כבר לא המצב. כשעומסי AI עוברים לפרודקשן, הם מציבים דרישות חדשות בפני שכבת התשתית שכוללת מחשוב, אחסון ורשת, וצורכי המשאבים עולים ויורדים בגלים של אימון והסקה. דוח עדכני של Forrester מתאר את מחסנית המחשוב המודרנית של AI כמשתרעת מהמודלים אל תוך התשתית שמתחתם, שם Kubernetes הפך לנקודת שליטה לתזמון עומסים, להחלת מדיניות ולממשק אחיד בין חוות שרתים, ענן ואתרי קצה.

מדוע ההקשר קובע אם הסוכנים עוזרים

ה-AI הסוכני מרחיב את האוטומציה מחוקים קבועים למערכות שמסתגלות לתנאים בזמן אמת: אוטומציה מסורתית מריצה את אותו סקריפט בין אם הסביבה השתנתה ובין אם לא, ואילו מערכת סוכנית צופה, מנמקת ואז פועלת, בדרך כלל לאחר אישור אנושי. האותות שהיא מקבלת, הקשר המדיניות וההרשאות שברשותה וההגדרה של מה מותר לשנות הם שמבדילים אותה מעוזר גנרי.

ניהול ידני עדיין מחזיק מעמד בכמה אשכולות בודדים, אך נעשה בלתי אמין בסביבה שצומחת במהירות; כל אשכול חדש מוסיף עבודת מחזור חיים: שדרוגים, טלאים, תצורה וחידושים. סחיפת תצורה היא סיכון גבוה, ומדיניות עשויה לחול באופן לא אחיד מצוות לצוות. אשכולות הפרוסים בין חוות שרתים, עננים ואתרי קצה מותירים את הצוותים בלי תמונה אחת שלמה, והידע על Kubernetes מפוזר: לוגים בכלי אחד, מטריקות בכלי אחר, ונהלים במקום שלישי.

אוקסנהם מכנה את החלק החוזר של העבודה הזו „עמל“ (toil): טריאז' חוזר, הצלבת אותות ידנית, מעקב אחר התראות ובדיקות שגרה. המשימות אינן קשות, אבל הן גובות זמן וקשב ומעכבות מודרניזציה יזומה. סקר עדכני על התועלת של AI לצוותי DevOps הגיע לאותה מסקנה: צמצום העמל הוא אחת ההזדמנויות הברורות. תחת פיקוח אנושי, סוכנים יכולים לאסוף אותות, להצליב ביניהם ולהציע סיבה סבירה.

ארבעה עקרונות לתפעול סוכני ב-Kubernetes

המאמר מפרט ארבעה עקרונות: מתחילים בהקשר נצפה, כדי שהסוכן יראה את מצב האשכול, המדיניות וההיסטוריה לפני שהוא מנמק; מפרידים בין הצעות לפעולות, כך שכל שינוי ממתין לאישור אנושי ולתחום מוגדר; מחברים סוכנים לבקרות קיימות כמו כללי הרשאה, זהות ונתיבי ביקורת; ושומרים על אקוסיסטם פתוח. SUSE מפנה לפלטפורמה שלה, Rancher Prime, שאותה החברה מתארת כאקוסיסטם ה-AI הסוכני הראשון בתעשייה שמודע להקשר, ובו סוכנים ייעודיים פועלים מאחורי נתב חכם ודרך בקרות ההרשאה הקיימות. סוכנים אינם מתאימים לכל מקום: היכן שבקרת השינויים חייבת להישאר ידנית לחלוטין, תפקידם עשוי להצטמצם לצפייה ולהצעות.