Что ИИ должен помнить, а что — забывать?
Что ИИ должен помнить, а что — забывать?
Вчера вы сказали ИИ: «На этот раз пока сохрани черновик». Сегодня вы прямо попросили опубликовать материал, но он всё ещё настаивает, что публиковать нельзя.
Бывает и менее заметная ситуация: вы лишь сказали о каком-то решении «можно попробовать», а через несколько дней ИИ уже воспринимает эти слова как постоянное правило и продолжает действовать исходя из него.
В обоих гипотетических сценариях дело не просто в «плохой памяти». Информация могла сохраниться полностью. Проблема в том, что ИИ не различил временное требование, долгосрочное предпочтение и решение, которое уже устарело.
В предыдущей статье о контексте мы обсуждали, какую информацию передавать ИИ для текущей задачи. Долгосрочная память должна отвечать ещё на один вопрос: что стоит перенести в следующий разговор и когда эта информация перестанет быть актуальной.
Историю чата, материалы проекта и долгосрочные предпочтения не обязательно хранить вместе
Документация LangGraph разделяет краткосрочную память в пределах сеанса и долгосрочную память, доступную между сеансами. Первая поддерживает состояние текущего диалога и задачи; во второй сведения о пользователе или приложении можно сохранять в настраиваемых пространствах имён.[1]
Это один из подходов к проектированию в рамках конкретного инструмента, а не свидетельство того, что все продукты с ИИ устроены одинаково. Но такое разделение полезно и для организации собственной работы.
Например, предпочтения по оформлению статей можно сохранять надолго; источники для конкретной статьи лучше держать в документах проекта; а идентификатор черновика, возвращённый после одной загрузки, относится к журналу выполнения именно этой задачи.
| Информация | Где её лучше хранить | Что проверить перед использованием |
|---|---|---|
| Желание сначала описать проблему, а затем способ её решения | Предпочтения в написании текстов | Нет ли особых требований на этот раз |
| Адрес развёртывания и структура каталогов проекта | Документация проекта | Не изменились ли они после переноса или обновления |
| Эту статью нужно только сохранить как черновик | Ограничение текущей задачи | Не распространять автоматически на другие статьи |
| Идентификатор объекта на платформе и подтверждение операции | Журнал выполнения | Сверить объект и версию содержимого |
| Текущие цены и функции продукта | Материалы с указанием даты | Перепроверить перед использованием |
Если сложить всё это в один документ под названием «память о пользователе», поддерживать его будет всё труднее. Задача завершится, а временное состояние останется; проект изменится, а старый путь сохранится; предположение, повторяясь снова и снова, может начать казаться фактом.
Хорошая запись в памяти должна отвечать на вопрос: «Откуда это взялось?»
«Пользователь любит краткость» звучит правдоподобно, но ИИ мог лишь предположить это после одной правки.
Если пользователь попросил сократить один абзац, из этого нельзя сразу делать вывод, что все будущие статьи должны быть короткими. Точно так же разрешение автоматически выполнить какой-то шаг в одном проекте нельзя без оснований переносить на другие проекты.
Я бы скорее сохранял запись такого вида:
Писательский проект: пользователь хочет, чтобы статья начиналась с конкретной проблемы. Источник — прямое редакторское указание. Применимо к последующим статьям этого проекта; если требования к текущей статье отличаются, приоритет у них.
Здесь, в отличие от расплывчатой метки, указаны область применения и источник. Исправить такую запись впоследствии тоже проще: если обнаружится ошибка, можно вернуться к первоначальному решению, а не просить ИИ снова объяснять, почему он тогда так подумал.
Если информация не подтверждена, неопределённость нужно сохранить. Например, «возможно, пользователь предпочитает диаграммы» может быть лишь наблюдением, требующим подтверждения, а не правилом добавлять диаграммы в каждую статью.
Такой формат записи — предложение по проектированию, а не единый набор полей, который уже поддерживается каким-то продуктом.
Изменить память часто важнее, чем добавить новую запись
Документация LangGraph рассматривает два способа хранения: постоянно обновлять единый профиль или поддерживать набор отдельных записей памяти. В первом случае, когда объём профиля растёт, повышается риск ошибок при обновлении. Во втором сложность смещается к поиску, удалению и обновлению записей, а также к установлению связей со старыми записями.[1]
Иными словами, добавить ещё одну запись легко. Сложнее понять, как она соотносится с предыдущими.
Предположим, старое правило гласило: «Все изображения в статье размещать в конце», а новое требование — «Обложку размещать после вступления». Если просто добавить новое требование в конец списка, при следующем поиске могут найтись обе записи — и возникнет конфликт.
Понятнее обновить действующее правило, указать, что старое им заменено, а при необходимости сохранить причину изменения в истории. Тогда прошлое решение останется доступным для проверки, но не будет претендовать на тот же статус, что и действующее правило.
Бывает и исключение только для текущего случая. Если в одной статье не нужна обложка, это не обязательно означает, что стандартное оформление изменилось навсегда. Тогда следует записать исключение для этой статьи, сохранив долгосрочное правило.
Поэтому перед записью стоит спросить: это новое предпочтение, изменение старого правила или разовое исключение?
То, что запись сохранена, не означает, что в следующий раз её применят правильно
Во многих приложениях записи памяти сначала нужно найти, а затем передать подходящие сведения модели. Сохранение, поиск и правильное понимание — разные этапы.
В статье Anthropic о проектировании контекста описан подход с чтением по мере необходимости: сохранять краткие указатели — пути к файлам, запросы или ссылки — и обращаться к подробностям тогда, когда они понадобятся для задачи.[2] Это напоминает, что не нужно постоянно помещать все материалы в один и тот же промпт.
Но «можно найти» не значит «по-прежнему актуально». Инструкция по работе с панелью управления месячной давности может хорошо соответствовать текущему вопросу и при этом уже устареть. Поэтому, помимо сходства содержания, нужно учитывать проект, объект, время и статус актуальности.
Стабильные предпочтения не обязаны устаревать каждый день. Для сведений, которые быстро меняются, полезно указывать дату проверки или прямо отмечать необходимость перепроверки перед использованием. Нет смысла назначать всем записям памяти одинаковый срок хранения.
Если речь идёт о ключах доступа к учётным записям, в обычной памяти следует хранить способ обращения к защищённой конфигурации, а не копию самого секрета. Обычно лучше, чтобы модель знала, где вызвать уже разрешённую функцию, чем помнила учётные данные.
Как проверить, что ИИ действительно усвоил правило, а не просто сказал «запомнил»
Поведение можно проверить несколькими небольшими тестами: начать другой диалог и посмотреть, сохраняется ли предпочтение в том же проекте; перейти к другому проекту и проверить, не переносится ли оно туда ошибочно; изменить правило и посмотреть, не продолжает ли старое правило влиять на результат.
Есть ещё одна проверка, о которой легко забыть: может ли ИИ вернуться к стандартному поведению после окончания временного исключения.
При оценке результата важно смотреть не только на то, упомянул ли ИИ нужную запись, но и на то, соответствует ли требованию его действие. Он может повторить «только сохранить черновик», но это ещё не гарантирует, что последующая операция публикации будет ограничена этим условием.
Для этой статьи не проводился сравнительный эксперимент с системами памяти, поэтому говорить о повышении точности в процентах нельзя. Сохранение и чтение внешней информации также не означает, что параметры модели прошли новое обучение.
Для повседневной совместной работы полезная долгосрочная память должна позволять пользователю просматривать, исправлять и удалять записи. По-настоящему помогать она будет тогда, когда сможет точно обновиться при следующем изменении требований.
Источники
Дата проверки: 11 ноября 2026 года. Сценарии и способы организации информации в статье приведены как примеры проектирования.
- LangChain: Memory overview — краткосрочная и долгосрочная память, компромиссы при поддержке профиля и набора записей памяти.
- Anthropic: Effective context engineering for AI agents — 2025-09-29; чтение по мере необходимости, краткие указатели и поддержка контекста.
Концептуальная иллюстрация создана ИИ; это не фотография испытаний и не схема топологии сети.
Обсуждение
Задайте вопрос или поделитесь опытом. Комментарии появляются после проверки. Адрес почты не публикуется. Конфиденциальность комментариев
Загрузка комментариев…