Порно-ботом в Телеграме пользовались 150 тысяч человек

Если вы думали, что глубокие моральные пропасти генеративного ИИ уже достигли предела, то вы очень оптимистично смотрите на мир.

Новости такие: недавно в Telegram появился чат-бот, единственное назначение которого — создавать реалистичные видео, где мужчины якобы извергают семя на лица женщин, причём на основе реальных (и, естественно, несогласных с этим) людей. Этот трешовый бот всего за несколько недель собрал аудиторию в 115 тысяч пользователей и к моменту блокировки платформой успел достичь показателя в 150 тысяч активных пользователей в месяц.

Возникновение подобных ботов — далеко не новость, однако впечатляет то, какими темпами они становятся массовыми. С момента публикации первого материала в 404 Media Telegram оперативно заблокировал бота, но это не решает настоящей проблемы: даже при жёсткой модерации таких сервисов подобный контент продолжает появляться снова и снова, наращивая популярность.

Откуда появилась эта новая волна?

Причины, как обычно, в открытости и доступности ИИ-инструментов. Как только в феврале китайская корпорация Alibaba открыла миру свою продвинутую модель генерации видео Wan 2.1, сразу же (буквально за сутки!) в интернете появились модифицированные версии этой модели, предназначенные исключительно для производства порнографических материалов (я про это писал). И естественно, новая технология была мгновенно подхвачена теневыми сообществами.

Следующим шагом было создание простых в использовании ботов в Телеграме, упростивших процесс: выбираешь фотографию любого человека, задаёшь текстовый запрос, ждёшь 15-20 минут — и вот уже получаешь реалистичное видео непристойного содержания с абсолютно реалистичной анимацией.

Один бесплатный «кредит» при регистрации позволяет любому пользователю мгновенно опробовать инструмент, далее сервис платный — даже с возможностью скидки за оплату в TONе.

Основной канал распространения таких ботов, кроме Telegram, — это печально известный ресурс Civitai, ранее не раз замеченный журналистами как крупная площадка для распространения ИИ-моделей, используемых в сомнительных целях.

Грустная деталь: видео, созданные с помощью этих ботов, активно распространяются на порно сайтах и в популярных Telegram-каналах, посвящённых deepfake-порно. Некоторые пользователи даже очень конкретно подписывают ролики, указывая настоящие Instagram*-страницы (*-запрещен в РФ) «героинь» этих несанкционированных материалов, что делает их легко идентифицируемыми.

Telegram официально заявил в ответ на журналистское расследование: «Незаконная порнография и инструменты для её создания запрещены условиями обслуживания нашей платформы и удаляются, как только обнаруживаются. Модераторы используют продвинутый ИИ и алгоритмы машинного обучения, ежедневно удаляя миллионы единиц вредоносного контента».

Однако фактически журналистам пришлось лично предоставить платформе название того самого бота, чтобы его заблокировали. Телеграм, при всех заверениях о борьбе с подобным безумием, явно не успевает реагировать в режиме реального времени.

Подписывайтесь на Telegram-канал Нейрократия.