50% людей не доверяют ИИ: что не так с нейросетями?
Мы пользуемся нейросетями каждый день. Пишем промты, просим написать код, сгенерировать картинку или составить план. Но доверяем ли мы им по-настоящему?
Глобальное исследование KPMG и Университета Мельбурна даёт жёсткий ответ: нет, не доверяем. И это при том, что пользуемся активно.
Опрос, охвативший более 48 000 человек в 47 странах (проводился с ноября 2024 по январь 2025 года), выявил парадокс: 66% людей уже целенаправленно используют ИИ на регулярной основе, 72% считают его полезным инструментом. Но при этом готовы доверять системам ИИ лишь 46%. Получается, что каждый второй пользователь не доверяет технологии, которой пользуется.
Почему мы не доверяем? Три главные причины
1. Ошибки и «галлюцинации»
ИИ выдаёт ложную информацию с пугающей уверенностью. Исследование KPMG показывает, что 56% пользователей уже допускали ошибки в работе из-за неточностей ИИ. При этом 66% полагаются на его ответы, не проверяя их. Это создаёт опасный замкнутый круг: мы доверяем, не проверяем, ошибаемся, но продолжаем пользоваться. В США, например, 57% работников сталкивались с ошибками, вызванными генерацией ИИ.
2. Риски безопасности и утечки данных
Люди боятся, что их данные используют непонятно как, а то и украдут. И это при том, что, по данным того же исследования, почти 50% работников признались, что вводят конфиденциальные данные компаний в публичные ИИ-приложения вроде ChatGPT в обход корпоративных политик. Мы сами создаём риски, которые потом боимся.
3. Слабое регулирование
70% респондентов считают, что регулирование ИИ необходимо. Люди хотят правил игры, которых пока нет. В развитых странах недоверие ещё выше: там лишь 39% готовы доверять ИИ против 57% в развивающихся.
Что стоит за цифрами?
У недоверия есть вполне конкретные основания. Исследования показывают, что в новостной сфере ИИ даёт неточные ответы почти в половине запросов. В медицинских тестах точность многих моделей оставляет желать лучшего — они могут ошибаться в десятках процентов случаев.
И чем сложнее задача, тем выше риск. Когда ИИ генерирует код для критической системы или даёт медицинский совет, цена ошибки становится неприемлемо высокой.
Что делать? Единственный рабочий способ
Главный вывод разработчиков и исследователей: чтобы ИИ меньше придумывал, его нужно «привязывать» к проверенным источникам. Это называется RAG (Retrieval-Augmented Generation) — технология, которая позволяет нейросети не генерировать ответ из воздуха, а находить и использовать реальные данные из внешних баз.
Вместо того чтобы полагаться на «знания», заложенные в модель (которые могут устареть или быть ошибочными), ИИ обращается к актуальным источникам: документам, базам знаний, корпоративным данным. Это не устраняет проблему галлюцинаций полностью, но резко снижает их частоту.
Что нужно делать пользователям?
- Перепроверять факты. Ни один ИИ не заменит критическое мышление.
- Использовать инструменты с прозрачными источниками. Если модель показывает, откуда взяла информацию, доверия к ней больше.
- Требовать регулирования. Чем чётче правила, тем выше ответственность разработчиков.
Коротко
Исследование KPMG и Университета Мельбурна — это диагноз: мы используем ИИ, но не доверяем ему. Главная причина — он слишком часто ошибается. Решение — не запрещать, а привязывать ИИ к реальным данным и учиться проверять его ответы.
ИИ — это инструмент, а не оракул. И доверие к нему нужно заслужить — прозрачностью, точностью и ответственностью.
А вы доверяете ИИ?
Подписывайся на Инсайды с Wall Street. Ежедневный дайджест главных новостей и событий со всех уголков мира. Без цензуры, без пропаганды, без лишних слов.