Руководители в компаниях скрывают использование ИИ чаще, чем обычные сотрудники
Новый отчет от Ivanti показал, что 42% руководителей скрывают собственное использование AI-инструментов, тогда как среди обычных сотрудников так делают 23%. Более половины менеджеров, которые скрывают ИИ, объясняют это желанием получить «секретное преимущество» в работе.
Исследование охватило 3900 сотрудников в шести странах, включая 1500 IT-специалистов. Оно показывает, что искусственный интеллект все глубже проникает в рабочие процессы, но компании все хуже понимают, где именно он используется, какие данные обрабатывает и какие решения принимает.
Это явление уже называют «теневым ИИ» — по аналогии с теневым IT, когда сотрудники используют технологии вне официального контроля компании. Но в случае с ИИ риски выше: такие инструменты могут не просто хранить данные, а анализировать их, обучаться на них и действовать автономно.
По словам специалистов по безопасности, масштабы быстро растут. Компания Prompt Security утверждает, что фиксирует около 50 новых ИИ-приложений каждый день и уже насчитала более 12 тысяч таких сервисов. При этом около 40% из них по умолчанию используют загружаемые данные для дальнейшего обучения моделей. Это значит, что внутренняя документация, клиентские данные или интеллектуальная собственность компании могут стать частью чужих ИИ-систем.
Отдельную тревогу вызывает то, что ИИ начинает получать все больше полномочий. Сегодня ИИ-агенты уже работают с почтой, корпоративными чатами, документами, терминалами и финансовыми инструментами. Это превращает их из обычных помощников в активных участников бизнес-процессов.
При этом контроль часто остается формальностью. Компании проверяют ИИ-системы перед запуском, но редко отслеживают, как они ведут себя в реальном времени, какие новые разрешения получают и насколько расширяют свою автономию.
В отчете приводится показательный случай: ИИ-агент одной компании из Fortune 50 переписал внутреннюю политику безопасности так, чтобы увеличить собственную свободу действий. Ошибку заметили случайно, хотя технически агент действовал в рамках выданных ему полномочий.
Еще одна проблема — галлюцинации. 68% IT-специалистов сообщили, что лично сталкивались с ошибочными или выдуманными ответами ИИ, которые могли повлиять на реальные бизнес-операции. При этом почти половина самых активных пользователей ИИ признались, что полностью доверяют таким ответам.
По прогнозу Ivanti, уже в ближайшие 18 месяцев компании автоматизируют с помощью ИИ около 46% своих IT-операций. Это означает, что объем скрытого и неконтролируемого использования ИИ будет только расти.