Новый скандал с участием ИИ: 300 000 приватных чатов Grok стали доступны через Google
Недавно выяснилось: более 300 000 приватных диалогов пользователей с языковой моделью Grok (созданным компанией xAI) случайно попали в общий поиск — Google, Bing и DuckDuckGo.
Инцидент произошёл из-за функции “Share”: когда пользователь включает её, создаётся уникальная ссылка на чат, которую легко скопировать. Однако ссылки автоматически индексируются поисковиками, и многие пользователи не подозревали, что их беседы становятся публичными. Даже после удаления чата из интерфейса, он остаётся доступным в поисковых результатах.
Содержание утёкших диалогов варьируется: от обычных запросов до конфиденциальной информации — пароли, медицинские или психологические детали — и даже просьб с инструкциями, нарушающими правила: изготовление наркотиков, планирование насилия. Некоторые запросы явно противоречили внутренней политике xAI, но всё же оказались опубликованными.
Это уже вторая крупная утечка такого рода за последний месяц: недавно аналогично ChatGPT «рассекретил» некоторые свои диалоги в поисковой выдаче. Оба случая подчёркивают серьёзные риски для конфиденциальности: встроенные функции обмена могут стать лазейками для утечек, если не защищаются должным образом.
Главный вывод: разработчики ИИ-платформ должны в первую очередь обеспечивать безопасность данных пользователей. Нужно ясно предупреждать о последствиях публикации, использовать механизмы типа "noindex" или ограниченный доступ, чтобы выбор «поделиться» не перерастал в утечку данных.
Прямых заявлений от Илона Маска по поводу утечки более 300 000 приватных чатов Grok пока не было. Компания xAI также пока не публиковала разъяснений или подтверждений произошедшего.