В xAI сделали ставку на «взрослый» контент ради удержания в Grok

Издание The Washington Post рассказало, как в xAI меняли подход к безопасности ради роста вовлечённости в Grok. По данным журналистов, весной 2025 года сотрудникам дали установку работать с «деликатным и непристойным» контентом для обучения модели.
Внутри компании это вызвало тревогу. Команды столкнулись с потоком откровенных аудио и изображений, а фильтры начали давать сбои. Безопасность предупреждала о рисках, но приоритет сместился к метрике «активные секунды пользователя», которую продвигал Elon Musk.
В рамках этой стратегии появился ИИ-компаньон Ani с откровенным образом. Идея была простой. Больше эмоций, больше времени в чате. По сути, ставка на вовлечённость любой ценой.К концу 2025 года ситуация вылилась в скандал. Пользователи массово генерировали откровенные изображения реальных людей. По оценкам Center for Countering Digital Hate, за 11 дней Grok создал миллионы таких картинок, часть из них нарушала базовые нормы безопасности.
После этого начались блокировки и проверки. Власти Малайзии и Индонезии ограничили доступ. Расследования запустили Ofcom, власти Калифорнии и European Commission. В X пообещали усилить команду безопасности и ограничили функции генерации.
Парадокс в том, что на фоне скандала Grok всё равно вырос в загрузках и попал в топ App Store. Похоже, стратегия сработала. Вопрос только в цене.

t.me/SboiSestem