Anthropic מפרטת את זיכרון הסוכן של Claude, בולטות וחלימה

Anthropic פרסמה את מחשבותיה על זיכרון סוכן עבור Claude, ומתארת כיצד הערות זיכרון, שיפוט בולטות וחלימה פועלים יחד בין סשנים. היא מכסה הערכות על משימות מסדי נתונים, Pokémon Red וויקי מסמכים.

זיכרון וחלימה

Anthropic מגדירה את זיכרון הסוכן כידע ש-Claude צובר מהניסיון, כולל אינטראקציות עם משתמשים ומשימות שהוקצו לו, ונשמר בין סשנים כהקשר שהוא יכול לקרוא מאוחר יותר. היא לא כוללת שינויים במשקלים של המודל, למידה בהקשר בתוך שיחה אחת, ודחיסה. החברה משווה זאת לזיכרון אנושי: ההיפוקמפוס לוכד חוויות במהירות, בעוד ששרוב הגיבוש לידע ארוך טווח מתרחשת בשינה ובמנוחה שקטה באמצעות חזרה. לסוכנים, יומנים ותמלילים לוכדים עבודה, וחוקרים ב-Letta ובאוניברסיטת UC Berkeley הציעו חישוב בזמן שינה, באמצעות זמן פנוי בין אינטראקציות כדי לארגן מחדש את ההקשר. Anthropic אומרת שאותו רעיון יכול לעזור לסוכנים לארגן זיכרון על ידי הרהור ביומנים, תופעה המכונה לעתים חלימה.

בולטות ולולאות למידה

Claude יכול לסמן אירועים בולטים ביומן הפעלה בזמן שהתרחשו, או לכתוב אותם למאגר זיכרון כגון תיקייה של הערות זיכרון. הזיכרון יכול גם לחזות צרכים עתידיים, כגון עובדה מאומתת או כלל. במשימת מסד נתונים של Continual Learning Bench 1.0, המודלים הציגו הבדלים: Sonnet 4.6 יצר תיאוריות שלא נבדקו, Opus 4.7 איחד הערות וסימן עובדות שנבדקו, Sonnet 5 סימן תשובות מאושרות ותיקונים, ו-Opus 5 סגר את לולאת הלמידה עם כללים, תשובות קודמות ואזהרות מפני מלכודות. Opus 5.5 ו-Sonnet 5.5 גם סגרו את הלולאה והשיגו ציון דומה לזה של Opus 5 עם זיכרון, אם כי קו הבסיס שלהם ללא זיכרון היה מעט גבוה יותר.

ב-Pokémon Red, Sonnet 3.7 כתב 413 קובצי זיכרון ב־225 תיקיות והשיג תג אחד, בעוד ש-Fable 5 כתב תשעה קבצים בשתי תיקיות ובנוסף global.md והשיג ארבעה תגים. הרשומות ללא אבחנה של Sonnet 3.7 התיישנו וצרכו זמן; Fable 5 שמר אסטרטגיה, תוכניות וכללים שנבדקו, ו-global.md שימש כלוח מחוונים. Opus 5.5 השתמש בתיקייה קטנה של הערות שעקבו אחר המטרות הנוכחיות והצעדים הבאים, שכתב אותן מחדש תוך כדי משחק, וניצח במשחק.

תיקון ובניית זיכרון

חלימה יכולה לבדוק הערות מול תמלולים מקוריים. ב-Pokémon, הערה שגויה אמרה ש-PokéCenter נמצא בצד המזרחי של Mt. Moon; עם ההערה שלא תוקנה, Claude חזר למסלול מוקדם יותר שלוש פעמים ולא הגיע מעולם ל-Cerulean City, בעוד שחלימה תקנה את ההערה ו-Claude הגיע ל-Cerulean City. חלימה יכולה גם לבנות ויקי, אוספים של דפים מקושרים. על פני 128 סשנים על כ-350,000 קבצי Stainless וכ-420 מיליון טוקנים, הביצועים ב-25 שאלות עלו מ-13% ל-48% מהקריטריונים המדורגים. בשימוש בחיפוש ובוויקי, ציונים מצטברים עלו מ-54% ל-61% עם צמיחת הוויקי, לעומת 53% בחיפוש בלבד, וביחד חסכו כ-20,000 טוקנים לשאלה.

בשאלות מיזוג, Claude השיג 87% כאשר התייעץ עם הוויקי לעומת 73% עם חיפוש בלבד, במיוחד כאשר המידע השתרע על פני מספר מסמכים. חלימה יכולה גם לסגור פערים: במשימה אחת היא מצאה תשעה קישורים לדף חסר והפנתה אותם מחדש, והוסיפה שלושה דפים חדשים כולל אינדקס.

קידום וזכרון ממוקד מטרות

חלימה יכולה לקדם פתקים לראש היררכיית הזיכרון, שבו המסגרת יכולה לטעון אותן לכל סשן. שכבת ההזרקה חייבת להישאר קטנה כיוון שזכרון מוזרק צורך טוקנים ופתק שגוי יכול להתפשט; Claude Code טוען רק את 200 השורות הראשונות או 25 קילובייט של MEMORY.md כמפתח. חלימה יכולה גם לעצב זיכרון לעבר מטרה. במשימת חוזה, טבלה משותפת איבדה עובדות כיוון שסוכנים דרסו זה את זה; לאחר הוראות מתוקנות העניקו לכל חוזה עמוד משלו עם תנאים מילה במילה, הקריטריונים לתקציר מדורג עלו מ-72% ל-100%.

מקורות: anthropic.com