Агент теперь помнит между сессиями. Вопрос в том, что именно он запомнил

На этой неделе в популярных инструментах для работы с ИИ-агентами появилась новая функция: агенту можно дать долгосрочную память. Раньше каждая сессия начиналась с чистого листа, теперь агент сохраняет выводы в отдельный файл и подгружает их автоматически в следующий раз – без участия человека.

Реакция закономерная: наконец агент будет умнее с каждым разом, перестанет переспрашивать одно и то же, начнет учитывать контекст, накопленный за месяцы работы. Звучит как чистое улучшение.

Работает это так только при одном условии, о котором почти никогда не говорят вслух.

Разница между человеком, который помнит, и агентом, который помнит, в одном: человек помнит с пометкой достоверности. Сотрудник, пересказывая разговор с клиентом, обычно интонацией отличает «клиент сам это сказал» от «мне так показалось». Файл памяти агента такой пометки не делает по умолчанию. Вывод из реплики клиента и вывод, который агент придумал сам, чтобы закрыть пробел в разговоре, попадают в память в одинаковом виде – как факт.

Дальше это работает как снежный ком. В следующей сессии агент читает собственную память, воспринимает записанное как проверенную основу и строит на ней новые выводы. Ошибка, которая проскочила один раз, не остается единичной – на нее опираются последующие решения, и с каждой сессией ее сложнее заметить, потому что она уже глубоко в цепочке.

У компании, которая использует ИИ-ассистента для работы с заявками и клиентами, это выглядит конкретно. Ассистент ведет переписку, в моменте не уверен в бюджете клиента, делает предположение – и это предположение оседает в памяти как факт «бюджет клиента – около такой-то суммы». Через месяц другой сотрудник открывает карточку, видит цифру и строит разговор так, будто она подтверждена. Клиент удивляется, откуда взялось число, которое он никогда не называл.

С заполнением CRM это особенно заметно. Там, где раньше менеджер тратил 10–15 минут после звонка, чтобы вручную вписать в карточку то, что действительно сказал клиент, автоматическое заполнение экономит это время – но только если в карточку попадает взятое из разговора, а не достроенное моделью для связности.

Идея хранить долгосрочную память рабочая – рутину действительно стоит снимать с агента. Вопрос в другом: «агент помнит» и «агенту можно верить» – разные характеристики, вторая не следует из первой автоматически.

Чтобы память не превращалась в тихое накопление ошибок, у каждого факта в ней нужны три вещи. Источник – откуда взят факт: цитата клиента, документ, или предположение агента, помеченное именно как предположение. Срок годности – когда факт зафиксирован и когда его стоит перепроверить, потому что бюджет, потребность и контакт клиента меняются со временем. Степень уверенности – агент должен уметь показать «не уверен» вместо того чтобы выдавать догадку тем же тоном, что и подтвержденный факт.

Без этих трех пунктов долгосрочная память не делает агента умнее – она делает его увереннее в том, что он не проверял.

Функция запоминания между сессиями – шаг вперед, но не автоматический. Она снимает с агента необходимость каждый раз начинать с нуля, и ровно поэтому запомненное должно поддаваться проверке – одной веры тут мало. Разбираться в этом стоит на этапе настройки памяти, а не после того, как накопленные в ней догадки начнут звучать увереннее фактов.