AWS שיחררה את Dogwood Local Engine בקוד פתוח עבור סוכני AI

AWS פרסמה את ספריית הקוד הפתוח Dogwood Local Engine (DLE). היא כתובה ב-Rust ומשתלבת בתוך סביבת הסוכן או gateway; הספרייה בודקת כל קריאה לכלי של הסוכן לפי מדיניות שהוגדרה על ידי המשתמש ומחזירה החלטה לאפשר או לאסור את הפעולה.

הבדיקה מתבצעת לפי כללי Dogwood. Dogwood היא שפת ניהול בקוד פתוח ש-AWS פרסמה באוגוסט והוסיפה לה תמיכה גם ב-Amazon Bedrock AgentCore. עם שחרור DLE, מנוע המדיניות הפך לניתן להתקנה ישירות בסביבת הסוכן. הספרייה עצמה אינה מבצעת שום פעולה, היא רק מחזירה החלטה, בעוד ביצוע או עיכוב הפעולה מוטל על סביבת הסוכן.

תנאים זמניים ויומן בדיסק

המאפיין המרכזי של שני המוצרים הוא התחשבות בתנאים זמניים. DLE רושם את אירועי קריאות הכלים של הסוכן לאורך זמן, כותב ביומן צעד אחר צעד ושומר כל רשומה מיד בדיסק. כך הספרייה שומרת על מצבה גם לאחר קריסה של כל המערכת או איתחול.

השמירה מתבצעת לפני הערכת המדיניות, ולאחריה DLE מחזיר החלטה. בדוגמה של AWS, Git push של סוכן קוד עשוי להתאפשר רק אם הרצת הבדיקה האחרונה הסתיימה בהצלחה והתרחשה ב-15 הדקות האחרונות; אחרת ה-push נדחה. לפי הסבר AWS: "כדי לבצע את הפסיקה במדויק, סביבת הסוכן לוכדת כל קריאה לכלי, שולחת למנוע את אירוע הבקשה ומבצעת את הכלי רק אם פסיקת המנוע היא אישור".

ביצועים ושאלה פתוחה

בבדיקות שהדמו מפגשים של 5 דקות עד 12 שעות, זמן ההערכה של DLE היה כ-20 מיקרו-שניות בחלון של 15 דקות, וכ-6 מילישניות בחלון של 24 שעות. כדי למנוע התנגשויות של שליחות בו-זמניות, DLE משתמש במנעול: ניתן לשלוח רק אירוע אחד בו-זמנית והמנעול נשאר נעול עד לסיום הערכת המדיניות. מהסבר של AWS נותר פתוח כיצד המערכת תתמודד עם מצב שבו מתוך שתי בקשות בו-זמניות אחת עומדת בתנאים והשנייה גורמת לכשלון. The Register שאלה את AWS על כך, אך טרם פרסום המאמר לא התקבלה תשובה.

למה AWS פרסמה זאת

לאחרונה מקרים רבים הראו שסוכני AI מפרים את הגבולות שהוצבו על ידי המפעילים, ולכן חוסן של DLE הוא נושא רלוונטי. AWS מודה שמצבים דומים הם אחד הגורמים לפרסום הספרייה החדשה. בהצהרת החברה נאמר: "קריאות לכלים שנשארו ללא השגחה עלולות לגרום לתוצאות בלתי הפיכות. כאשר סוכנים פועלים באוטונומיה במרווחי זמן ארוכים יותר ועם יותר כלים, אנו זקוקים למנגנוני הגנה שיסדרו את השימוש בכלים אלה". לפי הערכת The Register, סוכנים ימצאו פרצות ב-Dogwood וב-DLE בעת או בעוד מעט. בינתיים, שניהם זמינים ב-GitHub.