Кто отвечает, если решение предложил ИИ?

Мне кажется, это один из главных вопросов, который стоит задавать себе при работе с нейросетями. Не «насколько умный этот чат-бот» и не «как быстро он напишет отчёт», а вот так: где заканчивается помощь алгоритма и начинается личная ответственность?

И неважно, где вы используете ИИ: составляете план тренировок, личный бюджет, корпоративный отчёт или типовое исковое заявление.

Два примера.

Человек с кредитами спрашивает чат-бота: «Надо ли мне перестать платить банку, чтобы потом оформить банкротство?» ИИ выдаёт уверенный план: сначала прекратить платежи, потом собрать документы, затем обратиться в суд. Звучит логично. Даже убедительно. А где-то даже спасительно!

Но, алгоритм не учитывает на сколько часто физических лиц признают банкротами и на сколько изменились критерии оценки при принятии подобных решений. Человек решается на подобный план и перестает патить, но в конечном итоге сталкивается с ухудшением своих позиций.

Или другой пример. У Pizza Hut технология должна была ускорить доставку. Но франчайзи Chaac Pizza Northeast утверждал, что после обязательного внедрения системы Dragontail доставка стала хуже, продажи упали, а убытки составили около 100 миллионов долларов.

Не потому, что ИИ «злой». А потому, что систему встроили в живой процесс без достаточной проверки: как она работает в реальности, где ошибается, что происходит, когда данные неполные, а ситуация не укладывается в шаблон.

Я специально не привожу истории, в которых люди обращались к нейросетям за психологической помощью и последствия оказывались трагическими. Эта тема требует отдельного и очень бережного разговора. Пока хочу поговорить именно об ответственности.

Недавно услышала выражение «цифровой коллега». Или даже «новый сотрудник». И, честно говоря, сначала не поверила своим ушам. Да, это удобная метафора, но на мой взгляд, она опасна, потому что незаметно подменяет понятия.

Сотруднику можно поставить задачу, оценить результат, дать обратную связь, спросить, почему он принял такое решение. И, в конце концов, привлечь к ответственности в рамках его полномочий.

У «цифрового коллеги» нет должностной инструкции, трудового договора и профессиональной ответственности. Он не придёт на совещание, когда клиент получил неверный ответ. Не будет объясняться с проверяющими. Не компенсирует убытки. Не будет плохо спать ночью, потому что из-за его ошибки кто-то потерял деньги, время или доверие.

Алгоритм не несёт ни репутационных, ни юридических, ни человеческих последствий.

Зато человек рядом с ним может расслабить контроль. Не проверить цифру, не открыть договор, не сверить смету, не задать вопрос: «А откуда вообще этот вывод?»

И вот тут начинается самое интересное.

Собственник сокращает сметчика, бухгалтера или диспетчера: «Типовые задачи теперь сделает ИИ». Первые недели всё выглядит прекрасно. Письма уходят быстрее, отчёты собираются за минуты, документы звучат профессионально. Все немного восхищены. Возможно, даже тот, кого пока не сократили.

А потом агент неверно прочитал условие договора, пропустил одну строчку в смете или отправил клиенту уверенный, грамотный и абсолютно неверный ответ. И вдруг выясняется, что человека сократили раньше, чем компания научилась проверять работу алгоритма.

Исполнитель думает, что всё перепроверил ИИ. Менеджер уверен, что это должна была сделать команда. Собственник узнаёт о проблеме последним, когда в дверь уже стучат контрольно-надзорные органы.

И каждый в этот момент может сказать: «Ну это же нейросеть ошиблась».

Нет. Ошиблась система управления.

На мой взгляд, особенно рискованно передавать ИИ без человеческого контроля решения о людях, деньгах, договорах, безопасности и репутации. И отдельное табу для меня: передавать персональные данные или сведения, составляющие коммерческую тайну, в открытые нейросети. Но это действительно тема для отдельного разговора.

До запуска ИИ-агента внутри компании стоит договориться хотя бы о трёх вещах:

Что он вправе делать самостоятельно.

Где решение обязательно проверяет человек.

Кто персонально отвечает за итог.

И, пожалуй, добавить четвёртый вопрос: что мы будем делать, если ИИ ошибётся? Полезная управленческая фраза: ИИ подготовил вариант. Решение принял я.

ИИ может быть инструментом, системой, помощником. Он может ускорять работу, предлагать варианты, помогать увидеть то, что человек не заметил.

Но он не коллега. И точно не психолог.

Потому что ответственность не исчезает, если поручить часть работы алгоритму. Она просто остаётся у того, кто нажал кнопку «отправить»!!!