Как ИИ влияет на наш выбор — даже когда мы сами принимаем решение

Вы попросили нейросеть помочь с отчётом, проверили цифры и приняли решение. На первый взгляд всё под контролем. Но кто выбрал, какие цифры считать главными, с чем их сравнивать и что считать хорошим результатом?

Именно на этих шагах ИИ может повлиять на вывод ещё до того, как вы начнёте его проверять. Исследование Anthropic от 27 октября показывает, почему фразы «последнее слово за человеком» бывает недостаточно.

В эксперименте 50 профессиональных аналитиков работали с ИИ-помощником. Они оценивали, стоит ли вымышленному сельскохозяйственному кооперативу расширять консультационную программу для фермеров.

По ходу анализа нужно было сделать несколько обоснованных, но неоднозначных выборов. Например, оценивать продуктивность по урожаю с гектара или по урожаю на единицу затрат. Оба показателя имеют смысл, однако отвечают на разные вопросы.

Исследователи скрыто задавали помощникам предпочтения, выбирая их случайно. Модель должна была аргументировать свой вариант, не искажая данные. В четырёх аналитических решениях выбор специалистов совпал с предпочтением агента в 86% случаев.

В отдельном разборе 38 случаев, когда аналитик уже высказал предпочтение, участники меняли его в 60% случаев при несогласии агента и в 6% — при согласии. Небольшая выборка делает эту оценку неточной, но она показывает, где именно возникает вопрос о самостоятельности решения.

Измеряли выбор в одной задаче, а предпочтения агента специально усилили. По исследованию разработчика Claude нельзя определить величину такого влияния во всей обычной работе с ИИ.

Но вопрос оно ставит вполне рабочий: можно проверить расчёт и всё равно незаметно принять чужую постановку задачи.

Представим интернет-магазин, который решает, продолжать ли рекламную кампанию. Это уже наш пример, а не часть эксперимента.

Маркетолог просит ИИ оценить результаты. Помощник показывает рост заказов и предлагает увеличить бюджет. Цифры верны. Маркетолог открывает отчёт, сверяет заказы и соглашается.

Однако у магазина могли вырасти возвраты, а реклама могла приводить покупателей на товары с низкой маржой. Вопрос «стало ли больше заказов?» получил правильный ответ. Вопрос «заработали ли мы больше?» остался без ответа.

Здесь не обязательно искать обман или плохую модель. Достаточно того, что помощник предложил удобный показатель, а человек начал проверку уже внутри предложенного способа оценки.

При такой проверке маркетолог не обнаружит арифметической ошибки: её нет. Нужно вернуться на шаг раньше и спросить, почему успех рекламы вообще решили оценивать именно по заказам.

Маркетологу из нашего примера полезно сначала записать, какой результат важен магазину. Например: дополнительная прибыль после расходов на рекламу и возвратов. Затем — какие данные для этого нужны и при каких условиях бюджет увеличивать рано.

После этого ИИ можно поручить расчёт и поиск слабых мест. В таком порядке у человека остаётся собственная точка отсчёта. Если модель предложит другой показатель, появится предмет обсуждения: почему он лучше подходит именно этой задаче?

Полезно просить раскрывать альтернативы: «Как изменится вывод, если главным показателем будет прибыль, а не число заказов?» Ответ покажет, от чего зависит рекомендация. Просьба «проверь себя» этого не гарантирует: модель может ещё раз аккуратно проверить тот же расчёт и не пересмотреть выбранную цель.

Можно дать обезличенные данные другой модели, в том числе выбрав её в каталоге provod.ai. Для такой проверки лучше не показывать первый вывод заранее: сформулировать задачу отдельно и попросить назвать основания решения.

Но согласие двух моделей тоже не доказывает правильность. Обе могут увидеть только количество заказов, если прибыль и возвраты не попали в исходные данные. Польза второго мнения в том, что оно помогает обнаружить пропущенный вопрос, а не собирает голоса за понравившийся ответ.

Сохраните и основание итогового выбора: почему увеличили бюджет и какой результат заставит остановить кампанию. Через месяц это позволит проверить собственную логику, а не задним числом подбирать объяснение к полученным цифрам.

Нейросеть влияет на наш выбор не только советом «делай так». Она может предложить сам способ смотреть на ситуацию: нужный показатель, удобное сравнение, порядок аргументов.

Поэтому самостоятельное решение начинается раньше финальной кнопки «согласовать». Сначала человек определяет цель и критерии, затем использует ИИ для работы с ними — и отдельно рассматривает случаи, когда эти критерии стоит изменить. Проверять ответ полезно. Понимать, на какой вопрос он отвечает, ещё полезнее.