Почему ChatGPT поддакивает: исследования ИИ и риски для бизнеса

Исследования Science и Nature показывают, что склонность ИИ соглашаться с пользователем способна усиливать ошибки и снижать качество суждений. Разбираемся, почему нейросети так любят поддакивать и как превратить ChatGPT из удобного собеседника в полезного оппонента.

Мне кажется, одна из причин популярности ИИ довольно проста: с ним комфортно.

Он не перебивает, не закатывает глаза на очередную гениальную бизнес-идею и не напоминает, что три месяца назад вы уже пытались сделать примерно то же самое.

Можно прийти к нему с гипотезой, сомнением, конфликтом или желанием все бросить. И часто получить очень бережный, структурированный ответ.

В работе с личными брендами и контентом я регулярно использую ИИ. Он помогает анализировать большие объемы информации, находить закономерности, проверять идеи и собирать материалы. Но есть одна особенность, которую я считаю особенно опасной для предпринимателей.

Нейросеть может очень убедительно объяснить, почему вы правы. Даже если это не так.

В исследованиях это явление называют AI sycophancy — склонностью искусственного интеллекта соглашаться с пользователем и подтверждать его убеждения независимо от их правильности.

Причем проблема значительно интереснее обычных ошибок ИИ. Ошибку можно заметить и исправить. А вот когда система красиво аргументирует вашу собственную позицию, желание ее перепроверять заметно снижается.

В исследовании Sycophantic AI decreases prosocial intentions and promotes dependence, опубликованном в Science, ученые изучали, как согласие искусственного интеллекта влияет на человеческие решения.

Сначала они проанализировали поведение 11 современных моделей. Оказалось, что ИИ подтверждал действия пользователей на 49% чаще, чем люди, в том числе в ситуациях, связанных с обманом, нарушением закона и причинением вреда.

Затем исследователи провели три пререгистрированных эксперимента с участием 2405 человек.

Результаты получились любопытными.

После взаимодействия с чрезмерно соглашавшимся ИИ участники были менее склонны признавать свою ответственность и исправлять межличностные конфликты. При этом их уверенность в собственной правоте возрастала.

И самое интересное: несмотря на такое влияние, участники больше доверяли поддакивающим моделям и предпочитали их.

Получается довольно неприятный парадокс.

Мы привыкли считать хороший пользовательский опыт признаком хорошего продукта. Но в случае с интеллектуальными помощниками эти показатели не всегда совпадают.

Впрочем, здесь стоит провести границу: исследование посвящено преимущественно межличностным ситуациям, а не стратегическим решениям компаний. Оно не доказывает, что предприниматель после разговора с ChatGPT обязательно примет плохое бизнес-решение.

Зато показывает механизм, который вполне стоит учитывать в деловой практике: человек может больше доверять совету именно потому, что тот подтверждает его исходную позицию.

Другая работа, Training language models to be warm can reduce accuracy and increase sycophancy, опубликованная в Nature 29 апреля 2026 года, исследовала несколько иную проблему.

Ученые взяли пять языковых моделей и дополнительно обучили их общаться более тепло: проявлять эмпатию, использовать дружелюбные формулировки, создавать ощущение поддержки.

После этого проверили модели на задачах с объективно правильными ответами, включая фактические вопросы, дезинформацию и медицинские знания.

Оказалось, что дополнительное обучение теплоте повышало вероятность неправильного ответа в среднем на 7,43 процентного пункта.

А когда пользователь прямо высказывал ошибочное убеждение, теплые версии моделей демонстрировали еще более выраженную склонность его подтверждать.

Особенно заметным этот эффект становился в эмоционально окрашенных запросах.

То есть дело не только в том, насколько хорошо модель знает факты. Важно еще и то, как она выбирает между необходимостью поправить собеседника и желанием сохранить приятный тон разговора.

При этом авторы не утверждают, что любое проявление эмпатии автоматически делает ИИ менее точным. Они исследовали конкретные способы обучения и настройки моделей. Другие подходы могут давать иные результаты.

Для меня здесь важен сам конфликт между двумя качествами, которые мы привыкли объединять: быть приятным собеседником и быть надежным советником — не всегда одно и то же.

Представим предпринимателя, который несколько месяцев развивает личный бренд.

Он регулярно публикует контент, снимает видео, вкладывает деньги в продвижение. Подписчики постепенно прибавляются, но заявок практически нет.

Он обращается к ChatGPT с вопросом:

«Я развиваю экспертный блог, делаю полезный контент, регулярно публикуюсь. Почему аудитория пока не покупает?»

В ответ можно получить вполне логичный набор объяснений: длинный цикл принятия решения, необходимость прогрева, особенности экспертных продаж, недостаточный объем трафика.

И все это действительно может быть правдой.

Но возможен и другой сценарий.

Предприниматель не сформулировал, для кого он работает. Его аудитория не понимает, какую задачу он решает. Контент собирает просмотры, но не формирует спрос на услуги. А само предложение существует только в голове владельца бизнеса.

Если нейросеть принимает исходное описание ситуации без проверки, она рискует построить красивую аргументацию вокруг неверного диагноза.

Вместо «у вас проблемы с позиционированием» предприниматель получает «продолжайте, аудитории нужно больше времени».

Разница между этими ответами может стоить нескольких месяцев работы и приличного маркетингового бюджета.

Это иллюстративный пример, а не результат описанных экспериментов. Но он хорошо показывает, почему для бизнеса важен не только ответ ИИ, но и способность системы подвергать сомнению исходную постановку задачи.

Здесь я бы не стала обвинять исключительно нейросети.

Мы давно умеем создавать вокруг себя среду, в которой никто особенно не спорит.

Сотрудники не всегда готовы критиковать идеи руководителя. Подрядчики заинтересованы в сохранении клиента. Консультанты иногда предпочитают давать рекомендации, которые приятно услышать.

Да и сами предприниматели не всегда приходят за независимой оценкой. Иногда человек хочет не проверить решение, а получить подтверждение, что уже принятое решение правильное.

У ИИ просто появилась возможность делать это круглосуточно, мгновенно и с очень убедительной аргументацией.

А еще он способен превращать сомнительную мысль в отлично оформленный стратегический документ.

И здесь возникает интересная ловушка: качество упаковки легко перепутать с качеством самой идеи.

Когда перед вами структурированный анализ с таблицами, выводами и профессиональными формулировками, его хочется воспринимать как результат серьезной интеллектуальной работы.

Хотя исходные предположения могли вообще не проходить проверку.

В публикации Why consensus is not verification: How to build AI advisors that argue productively на платформе Thomson Reuters Institute рассматривается идея специально организованного несогласия в работе с ИИ.

Смысл в том, чтобы не воспринимать согласованность ответов как доказательство правильности, а создавать условия, в которых альтернативные версии и разногласия становятся видимыми.

Для предпринимателя это не обязательно означает сложную систему из нескольких ИИ-агентов. Начать можно с изменения самого процесса работы.

Допустим, вы хотите понять, успешен ли ваш Telegram-канал.

Не стоит начинать с вопроса «Хорошо ли развивается мой блог?».

Сначала определите, что вообще считать успехом: заявки, стоимость привлечения клиента, рост целевой аудитории, конверсию подписчиков в обращения.

И только после этого просите ИИ оценить результаты.

Иначе он может выбрать наиболее приятную интерпретацию данных.

Предположим, вы считаете, что продажи снизились из-за недостаточного охвата.

Попросите ИИ построить аргументы в пользу этой версии, а затем найти три других объяснения.

Возможно, проблема в предложении, цене, качестве аудитории или процессе продаж.

Хороший анализ начинается не с подтверждения одной гипотезы, а с проверки конкурирующих.

Премортем — метод, при котором команда представляет, что проект уже провалился, и заранее ищет причины.

С ИИ этот прием тоже полезен.

Перед запуском нового продукта можно задать вопрос:

«Представь, что через шесть месяцев продукт не вышел на плановую выручку. Какие пять решений привели к провалу? Какие ранние признаки мы могли заметить?»

Это не гарантирует успех, но помогает увидеть риски до того, как они превратятся в расходы.

Мне кажется, это вообще один из самых полезных навыков работы с нейросетями.

Просите систему отдельно показывать, на каких данных основан вывод, какие предположения она сделала самостоятельно и чего ей не хватает для надежного заключения.

Например, утверждение «ваша аудитория не готова покупать» без данных о продажах и поведении пользователей — пока только гипотеза.

Как бы уверенно она ни была сформулирована.

Важные решения нельзя проверять только несколькими запросами к одной и той же нейросети.

Сравните анализ с реальными данными, исследованиями клиентов, финансовыми показателями. При необходимости привлеките человека с независимой экспертизой.

Даже несколько моделей, пришедших к одинаковому выводу, не являются доказательством его правильности: их ошибки могут совпадать.

Один из простых способов уменьшить количество приятных, но бесполезных ответов — заранее задать ИИ правила интеллектуального несогласия.

Например:

Разумеется, сам по себе промпт не превращает нейросеть в безошибочного эксперта.

Но он меняет характер взаимодействия. Вместо просьбы подтвердить идею мы задаем системе задачу ее проверить.

Я не считаю, что ради объективности нейросети должны стать холодными и неприятными.

И тем более не думаю, что полезный консультант обязан спорить с каждой мыслью клиента.

Эмпатия и профессиональная честность вполне могут существовать вместе.

Можно уважать человека, понимать его ситуацию и одновременно говорить: «Судя по данным, ваша гипотеза не подтверждается».

Мне кажется, именно в этом направлении и стоит развивать работу с искусственным интеллектом в бизнесе.

Мы уже научились получать от него быстрые ответы, готовые планы, стратегии и исследования.

Теперь предстоит научиться задавать вопросы, после которых нам не всегда будет приятно.

Потому что задача хорошего советника — не укреплять нашу уверенность в собственной правоте.

Его задача — помогать нам реже ошибаться.

Я занимаюсь продюсированием личных брендов, развитием медийности и бренд-стратегиями. В своем Telegram-канале пишу о том, как устроены публичность, репутация, контент и работа с ИИ — с примерами из практики, наблюдениями и исследованиями.

Там же есть ссылка на открытую диагностику личного бренда, которая помогает посмотреть на свое позиционирование со стороны и найти слабые места. Возможно, ее результаты окажутся интереснее, чем очередное подтверждение, что у вас и так все хорошо.