Если долго пользоваться агентом, память разрастается: дневники, заметки, документы, прошлые разговоры. И в какой-то момент агент начинает вспоминать не то. Вы спрашиваете про поездку, а он подтягивает ваш рост и вес.
Пользователь из Кореи подробно описал на Reddit, как прошёл через это в три этапа. Он не айтишник, у него четыре бота: один ведёт дневник самочувствия, другие отвечают за расписание, таблицы, документы и разговоры.
Этап 1. Память по ключевым словам
В конце каждой сессии разговор сжимается в запись за день. В новую сессию агент подгружает только базовые инструкции и последние 1–2 дня. Всё старое — только по прямой команде: «прочитай файл про поездку в Афины».
Работает надёжно, но всё держится на вас: названия файлов нужно помнить самому.
Этап 2. Поиск по смыслу
Дальше он включил встроенный в OpenClaw поиск по смыслу (memory-core). Агент сам ищет в памяти куски, похожие на текущий вопрос. Отдельная модель на каждом шаге решала, нужно ли вообще лезть в память.
Через несколько дней стало хуже, чем было:
- Поиск почти не срабатывал. Даже когда он прямо ссылался на прошлое, модель-«привратник» решала, что искать не надо.
- Находилось не то. «Похоже по смыслу» и «полезно сейчас» — разные вещи. На вопрос о путешествиях с высокой оценкой всплывала информация о его поле.
Всё, что проходило порог похожести, сразу уходило агенту. И агент путался.
Этап 3. Добавить того, кто выбирает
Он описал процесс как библиотеку:
- Привратник решает, нужно ли вообще идти в библиотеку.
- Библиотекарь приносит 20 книг, похожих на запрос.
- Отборщик пролистывает все 20 и выбирает 5 действительно нужных.
- Курьер кратко пересказывает эти 5 агенту.
Оказалось, что на месте отборщика никого нет. Первые пять книг отдавались просто в том порядке, в каком их принесли. Поэтому наверх вылезали оглавления и анкета.
Он поставил на это место отдельную быструю и дешёвую модель, которая только оценивает кандидатов. На его 14 тестовых вопросах:
- в первой пятёрке стало 43% полезного вместо 24%;
- мусор на первом месте — в 21% случаев вместо 79%;
- задержка — около секунды, стоимость — доли цента за запрос.
Что из этого взять себе
- Если агент вспоминает не то, дело обычно не в модели, а в том, что между поиском и агентом нет отбора. Похожий кусок — ещё не нужный.
- Отбор можно поручить маленькой дешёвой модели. Ей не нужно писать текст, только оценить «полезно / нет». Дорогая модель тут — пустая трата денег.
- Проверяйте на своих вопросах. Автор сделал 14 контрольных вопросов и сравнил «до» и «после». Без этого вы не узнаете, стало лучше или просто иначе.
- Если памяти немного, не усложняйте. Этап 1 с файлами по темам и записью за день честно работает, пока вы помните, что где лежит.