5 ошибок при внедрении ИИ, которые обойдутся дороже всего

Рассказываем, где и как чаще всего ошибаются менеджеры, а также даем советы как надо делать.

Привет! Меня зовут Илья Кулаков, я директор по продуктам компании «Дататех» (Холдинг Т1). Мы помогаем компаниям подобрать и внедрить подходящие инструменты машинного обучения и ИИ и улучшить бизнес-процессы.

В этой статье расскажу, какие пять ошибок совершают компании, которые не слишком серьезно подошли к задаче и включились в ИИ-гонку под влиянием хайпа, а не потому, что это действительно необходимо их бизнесу.

Искусственный интеллект находится на пике ожиданий, иногда завышенных, если вспомнить кривую Гартнера. Пять лет назад то же самое было с блокчейном — огромное количество компаний пытались внедрить распределенный реестр там, где он и не требовался.

Создание решений на основе машинного обучения с точки зрения бизнес-процессов ничем не отличается от разработки других IT-продуктов. Прежде чем переходить к запуску проекта, важно не забывать про первоначальную фазу обследования и классический консалтинг: управленческий, трансформационный и технологический. Это не про высокие технологии, а про менеджмент.

Для начала компании нужно выделить серые зоны и точки роста, оценить применимость технологии. Рассматривать ИИ в этом случае стоит как один из возможных вариантов, не отметая и более простые способы решения задачи. Приводя аналогии, есть много ситуаций, когда более целесообразно использовать не умные выключатели, а обычные механические тумблеры.

Точно так же человек с кликером на 10 часов для оценки трафика у магазина цветов, целесообразнее камер и ИИ-софта с функцией подсчета людей. С другой стороны, решение на базе технологии ИИ может быть полезно, если нужно найти какие-то нелинейные зависимости продажи цветов от погоды, времени суток или моды на леопардовый принт в одежде. Главное, чтобы затраты на проект в будущем окупались, и нам на старте было понятно, как и в какие сроки это произойдет.

Чтобы понять, действительно ли бизнесу нужен ИИ, нужно получить две точки зрения:

Подготовить стратегию применения ИИ в компании, все шаги оцениваются и бюджетируются, появляется дорожная карта по разработке, внедрению, обучению персонала и так далее.

ИИ создан по образу и подобию человеческого мозга, со всеми его особенностями. Например, он будет делать неверные выводы, если для обучения использовались неполные или искаженные данные. Так, в 2014 году Amazon начал разрабатывать ИИ для отбора кандидатов на вакансии. Через несколько лет обнаружили, что система была предвзята к женщинам, поскольку обучалась на данных о позициях, в которых исторически преобладали мужчины. В начале 2017 года проект закрыли.

Ещё один пример: системы безопасности беспилотных автомобилей при эксплуатации гораздо лучше определяют светлокожих пешеходов. Первопричиной стало то, что обучение ИИ проводилось в регионах, где преобладает такое население.

Эти примеры показывают, что нельзя пренебрегать этапом подготовки и получения данных. Большинство инженеров в области ИИ считают, что для обучения модели на каждый случай в среднем должно быть 500 вариантов. Часть данных может быть из купленных референсных датасетов, которые использовались для предобученных моделей, но другая часть должна быть собственной. При этом важно, чтобы выборка отвечала критериям полноты и равномерности распределения.

Что касается собственной информации, то готовить датасет придется, скорее всего, вручную. Для разметки могут пригодиться уже обученные алгоритмы, которые помогут, например, обводить контуром какие-то типовые объекты — людей, машины, здания, но рутины всё равно будет больше.

Риелторский сервис Zillow, активы которого оцениваются в $6,5 млрд, в 2021 году закрыл ИИ-проект по оценке недвижимости, так как тот привел к большим финансовым потерям. Сложность задачи была значительно выше, чем изначально предполагалось. Подобные кейсы случаются часто, хотя мы обычно слышим только истории успеха.

Можно выделить четыре области, где часто происходит некорректная оценка проекта.

Работа с продуктами на базе технологий ИИ требует обучения. Важно показать сотрудникам, как можно применять ИИ-решения. Например, зная про возможные потенциальные ошибки ИИ, не стоит опираться только на него при принятии важных решений — нужно сохранять критическое мышление. Отдельное внимание следует уделить промпт-инжинирингу, то есть правильной постановке задач чат-боту, языковой модели или любому другому решению на основе ИИ.

Помимо руководителя проекта, над содержанием образовательного продукта для сотрудников обязательно должны работать три типа специалистов:

Если это крупный бизнес со своим корпоративным университетом, то методист поможет упаковать содержание в правильную форму. Для компаний среднего размера эту функцию может взять на себя интегратор.

Громить станки как луддиты в XIX веке вряд ли кто-то будет, но вспоминая опыт массового внедрения систем АСУ ТП, тихо отключать оборудование и предохранители, чтобы показать несовершенство системы — работники вполне могут.

Избежать этой ошибки поможет, правильное планирование и привлечение корректных консультантов (об этом мы говорили в начале статьи), а также использование подходящего софта.

Одним из ключевых требований для эффективного применения ИИ в бизнесе является наличие «фабрики ИИ» позволяющей консолидировать и управлять всеми ресурсами, необходимыми для ИИ: моделями, датасетами, аппаратными средствами. Чтобы построить фабрику ИИ, нужно использовать MLOps-решения – это конвейеры разработки ML-моделей. Очень важная встроенная функция таких решений: возможность сравнивать разные модели на одном и том же датасете, с идентичными задачами и оборудованием. Помимо оценки производительности, MLOps-решение позволяет, например, понять, какая модель тратит больше электроэнергии и других ресурсов.

Например, большой взрыв подойдет для оснащения камер видеонаблюдения всех предприятий и цехов на производстве — только полная информация без белых пятен позволит получить необходимую выборку данных. В то же время маркетплейс или социальная сеть могут придерживаться подхода «пилот-тираж», постепенно раскатывая решение на всё большее количество пользователей.