Модель вернула null. Почему AI-обновление может стереть данные
В сообщении клиента нет города. Модель возвращает "city": null, бэкенд принимает валидный JSON — и при неудачном контракте обновления старый город исчезает из карточки. Проблема не в синтаксисе ответа, а в том, что «неизвестно» превратилось в команду «очистить». Разберём, как разделить эти значения и проверить поведение на Python.
Иллюстрация сгенерирована в GPT Image 2. Визуальная метафора, не схема реализации.
Валидный JSON — ещё не разрешение на изменение
Представим AI-помощника, который извлекает изменения профиля из обращения клиента. В карточке уже записан город, но в новом сообщении речь только об имени.
Модель может вернуть:
{ "display_name": "Иван", "city": null }
Такой ответ легко прочитать как «имя найдено, город не найден». Однако принимающий код может понимать null иначе: «замени прежнее значение пустым».
Сам по себе JSON не задаёт смысл обновления карточки. Его определяет прикладной контракт.
Например, в JSON Merge Patch значение null внутри объекта обозначает удаление соответствующего поля, а отсутствующее поле оставляет прежнее значение без изменений. Это семантика конкретного формата, а не универсальное свойство любого JSON-ответа.
Именно поэтому я бы не отправлял результат извлечения напрямую в универсальный endpoint редактирования. Между «модель предположила» и «система записала» нужен отдельный слой принятия изменений.
Дальше — учебный пример, не описание реального инцидента и не замер качества какой-либо модели.
Разделите три намерения
Для обновления достаточно начать с трёх явно названных операций:
- keep — оставить существующее значение.
- set — записать конкретное новое значение.
- clear — явно очистить значение, если это разрешено.
Тогда предложение выглядит так:
{ "display_name": {"op": "set", "value": "Иван"}, "city": {"op": "keep"} }
А запрос на очистку — иначе:
{ "city": {"op": "clear"} }
В этом контракте отсутствие поля означает keep, а голый null — ошибку предложения. Если используемая схема требует передавать все поля, для неизменяемых значений можно явно возвращать keep.
Это собственный формат команд. Его не следует выдавать за реализацию JSON Merge Patch.
Ключевое различие: «в тексте нет нового значения» не даёт права удалять старое.
Модель предлагает, бэкенд ограничивает
Дальше нужно определить, что вообще разрешено менять. В примере доступны только display_name и city. Идентификатор клиента, принадлежность к организации, права и платёжные реквизиты в этот список не входят.
Для строк заданы простые правила: значение должно быть строкой, после удаления пробелов по краям — непустой, длина — не больше 120 символов. Это учебная политика, не универсальные требования к именам и городам.
Очистка по умолчанию запрещена. Важная деталь: разрешение на неё не должно приходить из ответа модели. Иначе модель сможет предложить не только изменение, но и собственное разрешение на него.
Небольшой пример на Python
Функция ниже возвращает новую версию объекта для предварительного просмотра. Исходный словарь не меняется. Если хотя бы одно действие недопустимо, результат не возвращается.
from copy import deepcopy FIELDS = {"display_name", "city"} MAX_LENGTH = 120 def preview_patch(current, changes, *, allow_clear=False): if type(changes) is not dict or not set(changes) <= FIELDS: raise ValueError("unexpected fields or invalid proposal") result = deepcopy(current) for field, action in changes.items(): if type(action) is not dict: raise ValueError("action must be an object") op = action.get("op") if op == "keep" and set(action) == {"op"}: continue if op == "set" and set(action) == {"op", "value"}: value = action["value"] if type(value) is not str: raise ValueError("set requires a string") value = value.strip() if not value or len(value) > MAX_LENGTH: raise ValueError("invalid string length") result[field] = value elif op == "clear" and set(action) == {"op"}: if not allow_clear: raise PermissionError("clear requires trusted approval") result[field] = None else: raise ValueError("invalid operation or unexpected keys") return result
Здесь None после разрешённого clear — наше внутреннее представление очищенного значения. Преобразование в конкретное обновление БД — отдельный шаг.
allow_clear — параметр доверенного вызывающего кода, не поле пользовательского запроса. В реальном сервисе одного глобального флага недостаточно: разрешение должно относиться к конкретной записи, полю и предложенному изменению.
Пример не вызывает LLM, не обращается к сети и не записывает данные. Он проверяет только политику обработки уже разобранного предложения.
Что действительно проверено
Для этой функции выполнены 14 локальных тестов на Python 3.12.14. Проверены, в частности:
- сохранение старого значения при отсутствующем поле и явном keep;
- корректный set без изменения исходного объекта;
- отклонение голого null, null внутри set и пустой строки;
- запрет clear без разрешения и работа разрешённой очистки;
- запрет изменения идентификатора и лишних ключей в действии;
- отклонение неизвестной операции, слишком длинной строки и неверного типа предложения;
- сохранность исходного объекта, если ошибка обнаружена после другого допустимого действия.
Последний случай легко пропустить. Если изменять исходный объект прямо в цикле, сначала может примениться новый город, а затем возникнуть ошибка в имени. Возврат ошибки сам по себе не отменяет уже произведённое изменение.
В примере эта проблема решается работой с копией. Для записи нескольких изменений в БД нужна соответствующая транзакционная граница — копия Python-словаря её не заменяет.
Эти тесты не подтверждают качество извлечения моделью, корректность всей интеграции или безопасность реальной CRM.
Где заканчивается этот пример
Даже полностью прошедшее проверку предложение может быть фактически неверным. Строка "Пермь" допустима по типу и длине, но это не доказывает, что клиент действительно переехал.
Поэтому для значимых полей я бы добавлял источник предполагаемого изменения и понятное сравнение «было → станет». А для необратимых или чувствительных действий — отдельное подтверждение либо более строгие бизнес-правила.
Есть ещё несколько обязательных границ.
Входной парсер. Пример начинается после разбора JSON. Ограничение размера ответа, проверка структуры на входе и политика обработки повторяющихся ключей остаются за его пределами.
Конкурентное редактирование. Пока модель формирует предложение, сотрудник может изменить карточку. При сохранении нужно атомарно проверить ожидаемую версию записи. Если версия уже другая — перечитать состояние и пересмотреть предложение, а не затереть свежие данные.
Авторизация. Пользователь должен иметь право редактировать именно эту карточку. Список разрешённых имён полей не заменяет проверку владельца и организации.
Подтверждение. Одобрение очистки нельзя переносить с одного плана на другой. Если меняются значение, запись или версия, прежнее подтверждение может уже не относиться к текущему действию.
Что стоит фиксировать в журнале
Для разбора полезнее сохранить решение системы, чем только факт получения ответа:
- идентификатор операции и целевой записи;
- версию записи, на которой строилось предложение;
- допустимые операции по полям;
- результат проверки и причину отказа;
- кто или какое правило разрешило чувствительное изменение;
- итог фактического сохранения.
При этом журнал не должен автоматически превращаться в копию всех обращений клиентов. Старые и новые значения тоже могут содержать персональные данные: состав полей, доступ и срок хранения нужно ограничивать.
Практический вывод
Я бы разделял три этапа: извлечь сведения → предложить изменение → разрешить и сохранить.
Схема ответа помогает удержать форму. Прикладная политика определяет, какие действия вообще допустимы. Авторизация, проверка версии и транзакция защищают уже саму запись.
Если начинать с одного изменения, я бы убрал неявную трактовку null как команды на очистку. Пусть отсутствие сведений, новое значение и намерение удалить старое будут разными состояниями.
А у вас null в ответе модели означает «не нашёл», «не менять» или «очистить»? Где именно это различие закреплено — в промпте или в коде?
Источники и границы
Операции keep / set / clear, список доступных полей и порядок подтверждения — проектные решения этого примера, не требования RFC.