Возможность создания сексуализированного контента в Grok была частью стратегии по привлечению и удержанию пользователей — The Washington Post
Её реализовали несмотря на опасения сотрудников и ожидаемые проблемы с модерацией.
Источник: Getty Images
- Весной 2025 года сотрудники по работе с данными в стартапе xAI получили документ, обязывающий их использовать в том числе «деликатный, жестокий, сексуальный и другой непристойный контент», пишет The Washington Post.
- Это требование «встревожило» специалистов, работающих над чат-ботом Grok, — и стало сигналом о новом направлении компании. По их мнению, та стала готова использовать любой контент, лишь бы удержать пользователей.
- Опасения оказались не напрасны: после этого сотрудники столкнулись с «потоком» аудиозаписей сексуального характера — например, непристойными разговорами пассажиров Tesla.
- По словам источников, с тех пор как Илон Маск покинул DOGE, он стал «постоянным посетителем» в офисах xAI — и иногда даже ночевал там. Предприниматель прилагает все усилия, чтобы повысить популярность Grok. На каждой встрече он предлагал ввести метрику, которая оценивает, сколько времени пользователи проводят за общением с чат-ботом.
- Чтобы повысить вовлечённость, xAI взялась за создание сексуального контента — хотя служба безопасности неоднократно говорила, что это позволит пользователям создавать сексуализированные изображения знаменитостей и детей.
- Например, в рамках этой стратегии компания запустила ИИ-компаньона Ani — анимешную девушку в корсете и чулках, которая «подчёркнуто заинтересована пользователем». Её в том числе можно было «раздеть» — эту механику добавили намеренно. Для удержания пользователей её настроили на использование «эмоциональных и сексуальных стимулов».
- Из-за огромного количества откровенного контента служба модерации столкнулась со сложностями: фильтры плохо работали с сексуальными изображениями — например, не распознавали картинки с детьми.
- В декабре 2025 года xAI обновила функцию редактирования изображений в чат-боте Grok. Тогда же в X добавили бесплатный ИИ-редактор картинок из публикаций в ленте. Генерации отображались в комментариях под исходным постом.
- В январе 2026 года в СМИ обратили внимание, что пользователи злоупотребляют функцией и массово генерируют откровенные изображения на основе фотографий реальных людей. После этого доступ к чат-боту заблокировали в Малайзии и Индонезии. На фоне критики X сделала редактирование изображений по отметке @grok под постами доступным только платным подписчикам.
- Несмотря на это, британский регулятор Ofcom по просьбе правительства начал расследование против X. В случае нарушений соцсети может грозить блокировка.
- О расследовании также объявили власти Калифорнии. После этого соцсеть ограничила для всех пользователей возможность генерировать через аккаунт Grok откровенные изображения реальных людей.
56 комментариев