Microsoft Research: очищення історії чату допомагає AI-агентам уникнути застряглих шляхів вирішення задач

Нове дослідження Microsoft Research показує, що AI-дослідницькі агенти, які працюють тривалий час, можуть застрягнути на різних рівнях виконання однакових завдань, і що причиною цього може бути саме їхня накопичена історія розмови. Дослідники встановили, що накопичення контексту застрягає агентів у їхніх власних «ідейних стоячих водах», у вузьких ареалах подібних рішень, і що очищенням історії чату можна досягти значно кращих результатів.

Агенти застрягають у ідейних стоячих водах

Дослідники вивчали «Autoresearch агентів», AI-системи, які повторювано пропонують рішення, оцінюють їх і вдосконалюють на основі зворотного зв'язку. Вісім незалежних запусків одного й того самого агента на одному й тому самому завданні застрягли на значно різних рівнях: підсумкові бали становили від 68,3 до 100,0, і різниця залишалася значною навіть у випадку більших обчислювальних ресурсів.

Після нанесення рішень усіх запусків на двовимірну мапу, де подібні рішення розташовані поруч, група встановила, що рішення одного запуску майже завжди залишалися у невеликому ареалі. Потім агенти витрачали значну частину залишкового обчислювального бюджету на вдосконалення рішень у менш продуктивному ареалі, замість того щоб шукати кращі підходи, виявлені іншими запусками. Цей патерн зберігається навіть тоді, коли агенти періодично конденсують історії розмов.

Fork-and-Flush очищує контекст

Запропонований метод об'єднує два механізми. Під час «forking» агент розділяється на K паралельних гілок, кожна з яких успадковує попередній робочий простір і всі згенеровані файли. Під час «flushing» кожна гілка втрачає весь контекст чату, але зберігає робочий простір, що дозволяє почати нову розмову і спиратися на попередню роботу.

Гілка, яка зберігає контекст чату батьківського процесу, зазвичай повертається в ту саму ідейну стоячу воду, оскільки попередні міркування спрямовують її наступні кроки. Новий контекст повертає різноманітність у пошуку. Історія розмови втрачається, але код, файли та збережені результати залишаються в робочому просторі.

Результати на 13 тривалих завданнях

Fork-and-Flush був протестований на 13 тривалих завданнях, серед яких: пакування поліоміно, планування job-shop, криптоаналіз, стиснення класифікатора CIFAR та оптимізація ядра VLIW. Окремі запуски тривали від кількох годин до понад 100 годин, агенти використовували GPT-5.6-terra та GPT-5.5 через GitHub Copilot CLI.

За умов однакового обчислювального бюджету Fork-and-Flush досяг min-max нормалізованого середнього балу 0,78, проти 0,47 для окремих запусків і 0,54 для best-of-4, що є відносним зростанням на 66,0% та 44,4%. Метод показав найвищий середній бал у 12 з 13 завдань і забезпечив більш стабільні результати: нормалізоване стандартне відхилення впало з 0,26 для окремих запусків до 0,16. Просто очищення контексту чату без розгалуження покращило результати на 11 завданнях приблизно на 22%.

Чому очищення контексту може залишитися корисним

Дослідники також перевірили, чи уникають потужніші моделі ідейних стоячих вод, використовуючи завдання MAX-3-SAT на трьох моделях різного розміру: Qwen3.5-4B, 9B та 27B. Варіація між запусками слідувала перевернутій U-подібній кривій з піком на завданнях, які знаходяться на межі можливостей моделі, приблизно посері між випадковим вгадуванням і продуктивністю еталонного розв'язувача. Моделі майже завжди успішно впораються з дуже простими завданнями і зазнають невдачі на дуже складних.

Автори стверджують, що відкриті дослідницькі проблеми знаходяться саме на межі можливостей моделей. Вони очікують, що мінливість, яку використовує Fork-and-Flush, зберігатиметься разом із покращенням моделей, просто межа переміщуватиметься до складніших завдань, і зазначають, що регулярне очищення контексту може залишитися корисним і для фронтирних дослідницьких агентів.

Джерела: The Decoder