Почему ИИ усугубляет хаос: шесть ошибок

Используете ИИ, но результатов нет? Тогда проверьте организационную готовность — прочный ли фундамент вы заложили в основу работы ИИ-инструментов. Рядовому пользователю достаточно убедиться, в порядке ли «железо», актуально ли ПО, упорядочена ли работа и данные, достаточно ли он сам разобрался в технологии. Компаниям же нужно исключить шесть ошибок.

ИИ требует много специфических ресурсов. Если не убедиться, что программы и «железо» подходят для корректной работы ИИ-инструментов, проект застрянет на этапе прототипа, и его не получится внедрить полноценно. Важна возможность работать с моделями нужного размера — локально или через облако. Возможен и гибридный подход к инфраструктуре.

Системы хранения данных должны выдерживать объемы и скорость обработки. Еще один кирпичик технологически-инфраструктурного фундамента — среда для обучения и дообучения моделей.

Инфраструктура должна быть не только устойчивой, но и масштабируемой. Достичь этого помогут, например, микросервисная архитектура, разделение контуров.

С устойчивым технологическим фундаментом и инфраструктурой бизнес получает бесперебойную работу сервисов без «тормозов» при росте нагрузки. Правильно выбрав архитектуру на старте, компания оптимизирует затраты на ИТ-инфраструктуру в будущем.

ИИ усиливает существующие процессы. Если они беспорядочны, хаос масштабируется.

Спасают от беспорядка понятные регламенты, стандарты работы, в т.ч. написания кода, единые подходы к смежным, взаимозависимым задачам, общие целевые показатели, регулярные ревью, система приоритизации задач. Не менее важен план управления нагрузкой и отказоустойчивостью.

В компаниях, где четко определены и зафиксированы роли сотрудников и зоны ответственности, в том числе кто актуализирует данные, следит за качеством работы инструментов, логирует решения и действия ИИ и т.д., проблемы возникают реже, а решать их без споров, кто виноват и что делать, получается быстрее.

Помогут избежать хаоса выстроенные MLOps-процессы — инженерные практики, методологии и инструменты разработки (Dev) и эксплуатации (Ops) моделей машинного обучения (ML) для их надежного, автоматизированного создания, развертывания, мониторинга и обновления в продакшене.

Если упорядочить процессы, уменьшится число ошибок и сбоев, снизятся риски простоя, операционные риски, а также вероятность конфликтов на почве неясности процессов или сфер ответственности. Работа ускорится, станет более предсказуемой и управляемой.

ИИ учится и работает на данных. От их полноты и качества зависит, будет ли ИИ приносить пользу или вред.

Правило «Мусор на входе — мусор на выходе» никто не отменял. Ошибки, дубли, устаревшая информация и противоречия в данных напрямую влияют на качество ответов и прогнозов. Хорошо работают системы, где данные актуальны, доступны согласно ролям, представлены в едином формате, хранятся в упорядоченных хранилищах. Их происхождение зафиксировано, ведется версионирование: кто, когда, где и что изменил в данных. Это дает бизнесу более точную аналитику, меньший риск ошибочных решений, и в итоге подкрепляет доверие к ИИ.

Отдельная трудность — знания, которые содержатся только «в головах» сотрудников, потому что такая информация рискует потеряться. Обязательна фиксация решений, кейсов, ошибок и выводов. Это снижает зависимость от отдельных сотрудников, помогает сохранить экспертизу и в перспективе облегчает онбординг.

Без понимания и должной вовлеченности руководства у компании есть два пути: либо на волне хайпа там принимаются поспешные малополезные решения, либо из-за страха и предвзятости внедрение ИИ идет слишком медленно. Оба пути — пути отставания.

Топ-менеджерам важно понимать логику ИИ и его ограничения как минимум на базовом уровне. Это поможет составить ИИ-стратегию, принимать более взвешенные решения по внедрению, а также формировать такую корпоративную культуру и такие рабочие процессы, что у сотрудников будет пространство для экспериментов и право на ошибку.

Понимание ИИ-инструментов позволяет грамотнее в них инвестировать, не завышать ожидания, синхронизировать технологии и цели компании.

Даже самый совершенный инструмент бесполезен, если команда его боится, саботирует или не умеет использовать для решения ежедневных задач.

Сотрудники должны быть обучены базовой работе с ИИ-инструментами. Повысить их квалификацию в этом вопросе помогут внутренние программы обучения или сторонние курсы, а также внутренняя база кейсов использования, гайды, мотивация за использование.

Более глубокое знакомство с ИИ снижает внутреннее сопротивление изменениям и облегчает его интеграцию в работу, что повышает производительность труда и укрепляет культуру инноваций.

ИИ работает с чувствительными данными. Ошибки ИИ выглядят убедительно и масштабируются быстро, но в сфере работы с данными обходятся бизнесу дорого.

Подход «сначала сделаем — потом защитим» устарел, сегодняшняя норма — встраивать безопасность в архитектуру, разграничивать доступы и усиливать контроль доступа ИИ к данным, проводить аудит действий и поддерживать безопасную среду для тестов. Надежные источники и верификация данных, мониторинг и удаление аномальных и вредоносных данных, обфуксация, т.е. запутывание данных помогут защитить датасеты от отравления данных (data poisoning). Приоритет безопасности — часть защиты компании от репутационных и юридических рисков.

* * *

ИИ не станет волшебной таблеткой, которая всё вылечит — она укрепит здоровую организацию, но усилит недомогания там, где они есть. Здоровье компании, ее организационная готовность — это прозрачные процессы, распределенные и зафиксированные зоны ответственности, упорядоченные оцифрованные данные. Если все это есть, ИИ становится рычагом роста, если нет — источником новых проблем.