Почему ИИ может навредить работе бизнеса: три ошибки во внедрении

Используете генеративный ИИ в работе? Разбираем три ошибки компаний, которые внедряют этот мощный инструмент. Рассказываем, что случается с ИИ-моделью, которую не контролирует человек; из-за чего в компании может произойти утечка данных и чем наряду с экспертизой важна обратная связь.

Итак, чего избежать, чтобы внедрить генеративный ИИ правильно и не потерять коллег, деньги и репутацию.

Из-за этой ошибки легко пропустить два серьёзных недостатка генеративного ИИ: предвзятость и «галлюцинации». Оба подрывают доверие и к самому инструменту, и к бренду, если бренд позволяет ИИ «говорить» от своего имени. Обе проблемы без человека не решить.

Искусственный интеллект перенимает предвзятость из данных, пока обучается. Если набор данных не отличается разнообразием, содержит предвзятую информацию, то модель ИИ возьмётся распространять это.

Ещё генеративные модели могут «галлюцинировать»: выдавать информацию с мелкими фактическими неточностями или полностью сфабрикованную.

Как избежать ошибки. Пусть команда специалистов оценивает данные для обучения генеративного ИИ и проверяет результаты его работы. Можно обратиться к опыту компаний, которые разрабатывают «пакеты знаний»: проверенные и промаркированные экспертами наборы обучающих данных.

Если сотрудники не применяют ИИ там, где это делают конкуренты, компания теряет производительность. Если штат применяет ИИ неправильно, возрастает риск репутационных и финансовых потерь.

Не владеющие инструментом теряют эффективность. Зачастую они опасаются, что их в работе заменит ИИ. Кроме того, чем больше людей осваивает работу с ИИ, тем быстрее из конкурентного преимущества этот навык переходит в состояние базового, что тоже беспокоит работников.

Те же, кто осваивает ИИ, не всегда пользуются им во благо бизнеса. 15% сотрудников регулярно загружают в ChatGPT данные о компании, из этого 43% — это внутренние данные, 31% — исходный код и 12% — персданные.

Как избежать ошибки. Регулярно обучайте штат работать с ИИ так, чтобы это приносило пользу и было безопасно. Сотрудники должны понять, на что способен ИИ, и получить представления о промпт-инжиниринге, чтобы определять, нормально ли ИИ работает или сбоит. В перспективе генеративный искусственный интеллект сможет помогать сотрудникам быстрее восполнять пробел в знаниях, чтобы адаптироваться на новом месте или вливаться после большого перерыва.

ИИ не всегда может оказаться эффективным, этичным и удобным для пользователя: клиента или сотрудника.

Обратная связь поможет узнать пользовательский взгляд, исправить недочёты и адаптировать инструменты искусственного интеллекта к актуальным сценариям использования.

Команда из экспертов по искусственному интеллекту, разработчиков, создателей контента и представителей службы поддержки клиентов предложит разнообразные варианты, как внедрять и совершенствовать системы искусственного интеллекта с технической точки зрения.

Как избежать ошибки. Проводите опросы, бета-тестирования, пилотные сессии. Создавайте выделенные каналы связи, чтобы собирать обратную связь и с её помощью совершенствовать сервис. Соберите экспертную команду внутри штата или обратитесь к сторонним консультантам, чтобы не повторять ошибок предшественников и грамотно встроить ИИ в работу.