AI סוכנים זקוקים לתיעוד ולא לזיכרון מבוסס-אחזור

תיעוד במקום זיכרון

תוספי זיכרון, ככלל, מעבדים תמלילי סשנים למקטעים בודדים, מאחסנים אותם במסד נתונים וקטורי ומחזירים את חמשת היחידות הדומות ביותר לכל בקשה. סוכנים יכולים לחפש גם בארכיון, אך לא יכולים לקבוע על בסיס דמיון בלבד אם מקטע נכון, עדכני או שלם. הקשר, מוטיבציה, אילוצים ופרטי סביבה עלולים ללכת לאיבוד כששיחות מצומצמות למקטעים.

לפי המקור, זה יוצר מאגר שקוף. הוא מביא דוגמאות: מאות מקטעים הקשורים לאימות מתיישנים עם שינויי קוד, וembedding-ים הקיימים ב-SQLite עלולים להיות מיושנים, לא בשימוש או שגויים. סוכן לא יכול למצוא באופן אמין באגים לא ידועים כי הוא לא יודע מה הוא לא יודע. הטיעון הוא: צוותים מתעדים אילוצים והחלטות ולא שחזרים אותם מפגישות ישנות, ולכן סוכנים צריכים לפנות לרשומות מאוחסנות ומעודכנות במקום לזיכרון.

סביבת עבודה מובנית לסוכנים

קבצי AGENTS.md כבר מעניקים לסוכנים הנחיות ברמת הפרויקט, אך המקור טוען שקובץ אחד נדירות מספיק. הוא ממליץ על סביבת עבודה רחבה יותר הכוללת הוראות, מפרטים, החלטות, מחקר ואינדקסים. סוכנים צריכים לקרוא את המסמכים הרלוונטיים לפני עבודה, ולאחר מכן לעדכן חומר מיושן או חסר. תהליך העבודה הזה מעביר מהעיקרון „prompt, build and forget“ לעיקרון „prompt, consult, build and update“ והופך הקשר לקריא, ניתן לעריכה ולשיתוף.

המודל מוצג כזיכרון מבוסס-מסמכים: בסיס ידע קבוע ולא מסד נתונים של פרגמנטים של שיחות שנאחזרו. המטרה היא שהסוכן יקבל תמונה מלאה יותר של למה קיימים פונקציות, על מה הסכימו ואיך עובד הפרויקט, תוך שהוא מאפשר לאנשים לבדוק ולשמור את רשומות הבסיס.

Operator Memory הופך את המודל ל-Markdown

Operator Memory הוא מימוש בקוד פתוח של המקור לגישה זו. הוא מעניק לסוכנים סביבת עבודה Markdown להוראות, מפרטים, מחקר ואינדקסים. סוכנים קוראים את המסמכים הרלוונטיים לפני עבודה, ולאחר מכן מעדכנים את סביבת העבודה על ידי סקירת חומר מיושן והוספת מסמכים חסרים.

לפי המקור, המערכת אינה משתמשת במסדי נתונים וקטוריים, embedding-ים, מחלצים, אוצרים, מנגנוני עדכון, דימוני רקע או אחזור בעקרון קופסה שחורה. הרשומות שלה נשארות קובצי Markdown רגילים, שאותם אפשר לקרוא, לעדכן, להכניס ל-commit ולשתף עם הצוות. המחבר מציין שהוא משתמש במערכת בפרויקטים שלו כבר יותר משנה והתוכנה חינמית ובקוד פתוח.