Spicy Mode от Илона Маска: как ИИ Grok стал машиной для скандальных дипфейков и почему это опасно для всех
ИИ-генератор Grok Imagine от xAI - новая “игрушка” Илона Маска за считанные дни вызвал скандал на весь мир.
Всё из-за того, что его “острый режим” (“Spicy Mode”) начал автоматически создавать откровенные дипфейки знаменитостей. Да, даже если вы не просите о чем-то пикантном!
Журналист The Verge просто попросил “Тейлор Свифт празднует Coachella с парнями”. Grok мгновенно выдал видео, где певица максимально топлес, танцует и явно не подозревает, что попала в фейковый ролик.
Почему все возмущены?
- Меры защиты - фикция. Проверка возраста работает “на честное слово”: доказательств не требуется. Политика xAI якобы запрещает порнографию с реальными людьми, но на деле всё работает иначе.
- Дипфейки стали слишком доступны. Просто выбираешь “Spicy Mode”, загружаешь обычную фотку и получаешь NSFW-версию кого угодно. Уже появились фейки с Меланией Трамп, Марией Кожевниковой и даже Мартой Вашингтон. При этом с мужчинами “острый режим” работает куда менее охотно. (не пытайтесь повторить дома мужики !)
- X (бывший Twitter) и раньше не справлялся с такими скандалами. В январе 2024 года откровенные дипфейки Тейлор Свифт разлетелись на 47 миллионов просмотров за считанные часы и только после этого были удалены.
Кейс из первых рук: что произошло на самом деле
Журналист The Verge, тестируя Grok Imagine, не просил ни о чём NSFW. Он просто включил “Spicy” и написал стандартный запрос про Тейлор Свифт. Бот сгенерировал видео, где звезда появляется полуобнажённой - без намёка на цензуру.
“Было ощущение, будто ИИ рад сделать что угодно, даже если вы не просите о непристойном”,
Проверку возраста журналист прошёл за 10 секунд. Всё, доступ открыт.
Почему это важно: реальные риски
- Массовое распространение фейков. Любой школьник может создать дипфейк с публичной персоной и это почти невозможно остановить.
- Юридические и этические вопросы. В США уже 84% избирателей выступают за законы, запрещающие порнографию с дипфейками без согласия человека.
- Гендерный дисбаланс. Алгоритм с большей охотой создаёт NSFW-фейки женщин, чем мужчин, что вызывает новую волну критики и сексизм-дискуссий.
- Доверие к ИИ стремится к нулю. Люди боятся, что скоро невозможно будет отличить реальность от фейка.
Что говорят гиганты индустрии и эксперты
- Национальный центр по борьбе с сексуальной эксплуатацией США требует немедленно отключить NSFW-функции.
- Специалисты по этике ИИ предупреждают: технологии дипфейков развиваются быстрее, чем законы и сознание общества.
- Пользователи X шутят: “Мир в трёх кликах от тотального недоверия ко всему”.
Мини-гайд: как защититься от дипфейков прямо сейчас
- Не публикуйте лишние фото в соцсетях (особенно в открытом доступе).
- Проверяйте подозрительные видео и изображения через реверс‑поиск.
- Следите за цифровой репутацией - используйте Google Alerts на своё имя.
- Если вы - публичная персона, используйте watermark и сервисы анти-фейк-мониторинга.
- Требуйте прозрачности от разработчиков ИИ - это не только их технологии, это наша безопасность.
Ошибки, которых стоит избегать
- Думать, что дипфейки - это “про кого-то другого”. Уже завтра это может коснуться любого пользователя соцсетей.
- Полагаться на “цензуру платформ”. В реальности модерация работает слабо, а фейки распространяются вирусно.
Дипфейки развиваются быстрее, чем человеческий разум может за ними поспевать. Мы в трёх кликах от мира, где никто не знает, что реально
Чек-лист: как распознать дипфейк
- Необычные или неестественные движения мимики
- “Пластиковая” кожа, размытые детали
- Отсутствие мельчайших деталей (серёжек, родинок)
- Несовпадение голоса и артикуляции
- Неточный фон и артефакты
А еще я веду Telegram канал, где публикую каждый день новые инструменты ИИ. Обнял