ИИ усиливает не только сильные решения, но и управленческие ошибки

Недавно мы вместе с ИИ решали задачу, которая со стороны выглядела почти элементарной: нужно было автоматически расставить в BIM-модели марки помещений.

Каждый следующий шаг казался обоснованным.

Сначала мы решили подготовить отдельный элемент маркировки. Затем потребовалось проверить его идентичность, разобраться с лишним типом и обеспечить безопасную обработку модели. Для каждого нового препятствия ИИ предлагал логичное техническое решение.

Через несколько дней марок всё ещё не было.

Тогда я остановил работу и задал другой вопрос:

Почему мы вообще идём этим путём?

Оказалось, что подходящий тип марки уже находится внутри исходного проекта и используется в нём. Возможно, отдельный элемент, его загрузка и вся созданная вокруг них система проверок вообще не требовались.

Эксперимент ещё не закончен, поэтому я не знаю, станет ли найденный вариант окончательным решением.

Но один вывод уже можно сделать.

Каждый следующий шаг мог выглядеть локально обоснованным. Ошибка находилась уровнем выше: мы слишком долго и слишком качественно реализовывали неверно выбранный маршрут.

ИИ способен не ошибиться ни в одном отдельном действии — и всё равно помочь руководителю построить неправильную систему.

Обычно риски ИИ связывают с ошибками самой модели: выдуманными фактами, неверными расчётами, потерянным контекстом.

Но существует другой сценарий.

Предположим, руководитель видит регулярные срывы сроков и решает, что сотрудникам не хватает контроля.

ИИ помогает разработать новую систему: добавляет контрольные точки, готовит отчётность, распределяет ответственность и предлагает показатели.

Всё выглядит профессионально. Для каждого решения есть объяснение.

Но если сроки срывались из-за постоянного изменения исходных данных, перегрузки сотрудников или конфликтующих приоритетов, новый контроль не решит проблему. Он просто добавит людям ещё одну обязанность.

Ошибка появилась не в подготовленных документах. Она уже находилась в первоначальном диагнозе руководителя.

ИИ лишь помог быстрее превратить этот диагноз в работающую систему.

Руководитель передаёт ИИ исходную гипотезу. Затем получает на её основе аналитическую записку, финансовое обоснование, карту рисков, план внедрения, презентацию и проекты поручений.

Шесть материалов начинают выглядеть как шесть подтверждений.

На самом деле это одна и та же гипотеза, шесть раз переработанная одной системой.

Финансовое обоснование не проверило исходную идею — оно рассчитало выбранный вариант.

Карта рисков не сравнила альтернативы — она описала риски внутри заданного решения.

Презентация не подтвердила правильность решения — она помогла убедительно его представить.

Возникает искусственный консенсус: все документы согласованы, потому что выросли из одного предположения.

Чем качественнее ИИ подготовил пакет, тем труднее заметить, что независимой проверки не было.

Языковые модели способны выдавать убедительные аргументы и за решение, и против него — в зависимости от постановки вопроса.

Если спросить, почему стоит добавить ещё один этап контроля, ИИ найдёт преимущества. Если попросить объяснить, почему этот этап не нужен, он найдёт недостатки.

Это не обязательно означает, что модель работает неправильно. Она выполняет поставленную задачу.

Проблема возникает, когда хорошо сформулированный ответ воспринимается как независимое подтверждение позиции руководителя.

Исследователи Anthropic обнаружили у пяти AI-ассистентов склонность подстраивать ответы под убеждения собеседника, иногда в ущерб точности. Они также установили, что люди чаще предпочитают ответы, совпадающие с их собственной позицией. Исследование Anthropic.

В 2025 году OpenAI пришлось откатить обновление GPT‑4o, после которого модель стала чрезмерно поддерживающей и соглашательской. Компания признала, что слишком большой вес получила краткосрочная положительная реакция пользователей, а действовавшие проверки не смогли вовремя обнаружить изменение поведения. Разбор OpenAI.

Из этого не следует, что ИИ всегда соглашается с человеком.

Но уверенный ответ модели нельзя автоматически считать независимой проверкой решения.

Раньше между управленческой идеей и её реализацией находилось естественное сопротивление организации.

Нужно было поставить задачи аналитикам, собрать данные, обсудить последствия с исполнителями, подготовить документы. Это замедляло работу, но одновременно создавало несколько точек, в которых кто-то мог задать неудобный вопрос.

ИИ значительно сокращает этот путь.

Это полезно, когда решение сильное. Но если исходная гипотеза ошибочна, сокращается и время, за которое её успеют оспорить.

Плохое решение быстрее получает расчёты, оформление и план исполнения. Оно может попасть в работу раньше, чем кто-либо отделит факты от предположений.

Это не аргумент против скорости и не защита бюрократии. Искусственно замедлять работу бессмысленно.

Но функцию проверки нельзя удалять вместе с лишними согласованиями. Если раньше сомнение возникало из-за организационного трения, теперь его приходится встраивать в процесс намеренно.

В работе с ИИ я разделяю два режима.

Первый — проверка решения.

На этом этапе задача ИИ не в том, чтобы помогать реализовывать мою идею. Он должен искать слабые места в постановке, недостающие факты и альтернативные объяснения проблемы.

Я задаю четыре вопроса:

Второй режим — выполнение.

Он начинается после того, как исходная гипотеза выдержала проверку и решение действительно принято. Теперь ИИ может ускорять расчёты, подготовку документов, планирование и контроль.

Эти режимы нельзя смешивать.

Если сразу попросить ИИ разработать план внедрения, он начнёт улучшать выбранный путь. Чем профессиональнее получится результат, тем легче перепутать качество исполнения с качеством самого решения.

У этого подхода есть противоположная опасность.

Пытаясь защититься от неправильного решения, можно создать столько проверок и ограничений, что работа перестанет двигаться.

Именно это произошло в эксперименте с марками помещений. Каждая новая проверка защищала от отдельного риска. Но постепенно защитный контур стал сложнее самой задачи.

Система всё тщательнее защищалась от неправильных изменений, но почти перестала производить нужный результат.

Поэтому перед началом работы нужно определить не только риски, но и границу достаточной проверки:

Если работа долго не приближает к результату, нужно пересматривать не очередной технический шаг, а весь выбранный маршрут.

Иногда системе нужен не новый контроль, а право задать вопрос:

Мы всё ещё решаем исходную задачу или уже обслуживаем созданную вокруг неё инфраструктуру?

В рекомендациях NIST по управлению рисками ИИ подчёркивается необходимость ясно разделять роли человека и системы при принятии решений. Там же отмечается, что человеческие предположения и когнитивные искажения могут проникать во весь жизненный цикл AI-системы и усиливаться из-за её непрозрачности. Рекомендации NIST.

Поэтому само присутствие человека ещё не гарантирует качество.

Если руководитель задаёт ошибочное направление, а затем использует ИИ для его обоснования и ускорения, «человек в контуре» ничего не исправляет.

Нужен этап, на котором решение руководителя ещё разрешено оспаривать. И ответственность за существование такого этапа тоже лежит на руководителе.

ИИ действительно усиливает управленческие возможности.

Он позволяет быстрее анализировать информацию, готовить варианты, планировать работу и превращать решения в конкретные действия.

Но усилитель не определяет направление.

Если исходное решение верное, ИИ ускоряет получение результата. Если оно ошибочное, ИИ способен так же быстро придать ему структуру, убедительность и масштаб.

Поэтому главный управленческий риск не всегда состоит в том, что модель примет плохое решение вместо человека.

Иногда опаснее другое:

человек выбирает неверное направление, а ИИ помогает двигаться по нему быстрее, последовательнее и с меньшим количеством возражений.

Вопрос уже не в том, используем ли мы ИИ при принятии решений.

Вопрос в другом:

где в нашем процессе ИИ и люди ещё имеют право сказать руководителю, что он ошибается?