5 / 20
Память агента: что хранить между шагами и между сессиями, чтобы контекст не раздувался?
Память агента — это три разных хранилища, и путать их дорого. Рабочее состояние прогона (план, результаты шагов) живёт до конца задачи и должно быть структурированным, а не текстовым. Память диалога обрезается и пересказывается: последние реплики дословно, старые — сводкой. Долговременная память (факты о пользователе, предпочтения, результаты прошлых задач) хранится во внешнем хранилище и подтягивается поиском по релевантности, а не целиком. Общее правило: в контекст кладётся то, что нужно для следующего шага, а не всё, что известно.