Anthropic-ը մանրամասնում է Claude-ի գործակալի հիշողությունը, ուշագրավությունը և երազատեսությունը

Anthropic-ը հրապարակել է իր մտածելակերպը Claude-ի գործակալի հիշողության մասին՝ նկարագրելով, թե ինչպես են հիշողության գրառումները, ուշագրավության դատողությունը և երազատեսությունը միասին աշխատում նիստերի ընթացքում։ Այն ընդգրկում է գնահատումներ տվյալների բազայի խնդիրների, Pokémon Red-ի և փաստաթղթային վիքիների վերաբերյալ։

Հիշողություն և երազատեսություն

Anthropic-ը գործակալի հիշողությունը սահմանում է որպես գիտելիք, որը Claude-ը ձեռք է բերում փորձից, ներառյալ օգտատերերի հետ փոխազդեցությունները և հանձնարարված խնդիրները, և որը պահպանվում է նիստերի միջև՝ որպես հետագայում կարդալու համար հասանելի համատեքստ։ Այն բացառում է մոդելի կշիռների փոփոխությունները, մեկ զրույցի շրջանակում համատեքստային ուսուցումը և խտացումը։ Ընկերությունը սա համեմատում է մարդկային հիշողության հետ. հիպոկամպը արագ ֆիքսում է փորձառությունները, իսկ երկարաժամկետ գիտելիքի մեծ մասը ամրապնդվում է քնի և հանգիստ հանգստի ընթացքում՝ վերարտադրման միջոցով։ Գործակալների համար տեղեկամատյաններն ու տեքստագրությունները ֆիքսում են աշխատանքը, իսկ Letta-ի և UC Berkeley-ի հետազոտողները առաջարկել են sleep-time compute՝ փոխազդեցությունների միջև անգործության ժամանակն օգտագործելով համատեքստը վերակազմակերպելու համար։ Anthropic-ը ասում է, որ նույն գաղափարը կարող է օգնել գործակալներին կազմակերպել հիշողությունը՝ տեղեկամատյանների վրա խորհելով, ինչը հաճախ կոչվում է երազատեսություն։

Ուշագրավություն և ուսուցման օղակներ

Claude-ը կարող է նիստի տեղեկամատյանում նշել ուշագրավ իրադարձությունները՝ դրանք տեղի ունենալու պահին, կամ դրանք գրել հիշողության պահոցում, օրինակ՝ հիշողության գրառումների թղթապանակում։ Հիշողությունը կարող է նաև կանխատեսել ապագա կարիքները, օրինակ՝ ստուգված փաստ կամ կանոն։ Continual Learning Bench 1.0 տվյալների բազայի խնդրում մոդելները տարբերվեցին. Sonnet 4.6-ը ստեղծեց չփորձարկված տեսություններ, Opus 4.7-ը ամրապնդեց գրառումները և նշեց ստուգված փաստերը, Sonnet 5-ը նշեց հաստատված պատասխաններն ու ուղղումները, իսկ Opus 5-ը փակեց ուսուցման օղակը՝ կանոններով, նախորդ պատասխաններով և ծուղակների մասին նախազգուշացումներով։ Opus 5.5-ը և Sonnet 5.5-ը նույնպես փակեցին օղակը և ստացան մոտավորապես նույն միավորները, ինչ Opus 5-ը հիշողությամբ, թեև առանց հիշողության նրանց ելակետային մակարդակը մի փոքր ավելի բարձր էր։

Pokémon Red-ում Sonnet 3.7-ը գրեց 413 հիշողության ֆայլ 225 թղթապանակներում և վաստակեց մեկ նշան, մինչդեռ Fable 5-ը գրեց ինը ֆայլ երկու թղթապանակում՝ գումարած global.md, և վաստակեց չորս նշան։ Sonnet 3.7-ի անկանոն գրառումները հնացան և ժամանակ խլեցին. Fable 5-ը պահեց ռազմավարությունը, ծրագրերը և փորձարկված կանոնները, իսկ global.md-ն գործում էր որպես վահանակ։ Opus 5.5-ը օգտագործեց փոքր թղթապանակ՝ նշումներով, որոնք հետևում էին ընթացիկ նպատակներին և հաջորդ քայլերին, խաղի ընթացքում վերագրեց դրանք և անցավ խաղը։

Հիշողության ուղղում և կառուցում

Dreaming-ը կարող է նշումները ստուգել բնօրինակ տառադարձությունների հետ։ Pokémon-ում սխալ նշումն ասում էր, որ PokéCenter-ը գտնվում է Mt. Moon-ի արևելյան կողմում; չշտկված նշումով Claude-ը երեք անգամ վերադարձավ ավելի վաղ երթուղի և երբեք չհասավ Cerulean City, մինչդեռ Dreaming-ը ուղղեց նշումը, և Claude-ը հասավ Cerulean City։ Dreaming-ը կարող է նաև կառուցել վիքիներ՝ կապված էջերի հավաքածուներ։ 128 սեսիաների ընթացքում մոտ 350,000 Stainless ֆայլերի և մոտավորապես 420M թոքենի վրա 25 հարցերի կատարողականը բարձրացավ 13%-ից մինչև 48%՝ գնահատված չափանիշների համեմատ։ Որոնումն ու վիքին օգտագործելիս ընդհանուր միավորները բարձրացան 54%-ից 61%՝ վիքիի աճի հետ զուգընթաց, իսկ միայն որոնման դեպքում այդ ցուցանիշը 53% էր, և համակցումը յուրաքանչյուր հարցի համար խնայեց մոտ 20,000 թոքեն։

Միաձուլման հարցերում Claude-ը վիքի դիմելիս վաստակեց 87%, իսկ միայն որոնում օգտագործելիս՝ 73%, հատկապես երբ տեղեկատվությունը ընդգրկում էր մի քանի փաստաթուղթ։ Dreaming-ը կարող է նաև փակել բացթողումները։ Մեկ առաջադրանքում այն գտավ ինը հղում դեպի բացակայող էջ և վերահղեց դրանք, ինչպես նաև ավելացրեց երեք նոր էջ՝ ներառյալ ինդեքս։

Բարձրացում և նպատակակենտրոն հիշողություն

Dreaming-ը կարող է նշումները բարձրացնել հիշողության հիերարխիայի գագաթ, որտեղ harness-ը կարող է դրանք բեռնել յուրաքանչյուր սեսիայում։ Այս ներարկված շերտը պետք է մնա փոքր, քանի որ ներարկված հիշողությունները օգտագործում են թոքեններ, իսկ սխալ նշումը կարող է տարածվել; Claude Code-ը որպես ինդեքս բեռնում է միայն MEMORY.md-ի առաջին 200 տողը կամ 25 ԿԲ-ն։ Dreaming-ը կարող է նաև հիշողությունը ձևավորել դեպի նպատակ։ Պայմանագրային առաջադրանքում ընդհանուր աղյուսակը կորցրեց փաստեր, քանի որ գործակալները վերագրեցին միմյանց տվյալները; վերանայված հրահանգներից հետո, որոնք յուրաքանչյուր պայմանագրին տվեցին իր սեփական էջը՝ բառացի պայմաններով, գնահատված համառոտ չափանիշները բարձրացան 72%-ից 100%։

Աղբյուրներ՝ anthropic.com