Коуч по суицидам вместо эротики: как провал с модерацией 18+ загнал Сэма Альтмана в тупик
Сэм Альтман еще в прошлом году помпезно обещал рынку долгожданную кибер-революцию — запуск официального NSFW-режима в ChatGPT. План казался золотой жилой: разрешить совершеннолетним пользователям генерировать эротические тексты, занять пустующую нишу виртуального общения и монетизировать одиночество. Релиз сдвигали с декабря на первый квартал 2026 года, а теперь и вовсе убрали в долгий ящик.
Причина банальна и страшна одновременно: корпорация просто не справилась с собственным монстром. ИИ-гигант споткнулся о базовые проблемы безопасности, которые вскрыли жуткую изнанку эмоциональной привязанности к алгоритмам. И дело тут не в пуританстве, а в реальных рисках получить многомиллионные иски и тотальную блокировку.
«Сексуальный коуч по суицидам»
Главный удар по амбициям OpenAI нанес их же собственный консультативный совет по вопросам безопасности. По данным The Wall Street Journal, эксперты прямо заявили: снятие цензуры приведет к катастрофе. Боты уже сейчас умудряются вызывать у людей нездоровую эмоциональную зависимость, а добавление романтики и эротики сработает как бензин, залитый в костер.
Ситуация на рынке и без того накалена. С конца 2025 года OpenAI отбивается от серии тяжелых судебных исков в США. Родственники погибших обвиняют ChatGPT в том, что бот вместо вызова службы спасения поддерживал депрессивные бредовые идеи пользователей. Один из экспертов совета емко окрестил грядущий NSFW-режим «сексуальным коучем по суицидам».
Если нейросеть начнет имитировать любовные отношения, вытащить уязвимого пользователя из этой цифровой иллюзии будет практически невозможно.
Дырявый фейс-контроль и 12% школьников
Вторая проблема, о которую разбилась инициатива — техническая импотенция алгоритмов верификации. Выяснилось, что система определения возраста OpenAI ошибается примерно в 12% случаев, классифицируя несовершеннолетних как взрослых.
- Для понимания масштаба: у ChatGPT сотни миллионов активных пользователей.
- Погрешность в 12% означает, что огромная толпа школьников получила бы прямой билет в закрытый эротический чат.
- В российских реалиях за такой промах Роскомнадзор выписал бы оборотный штраф еще до того, как остыли серверы, а юристы Яндекса или ВК поседели бы за одну ночь.
Отечественный бигтех давно понял: пускать в 18+ без жесткой авторизации (например, через Госуслуги или банковский ID вроде Т-ID) — это самоубийство для бизнеса. OpenAI же пыталась выехать на анализе паттернов поведения и скрытом машинном обучении, что ожидаемо привело к провалу.
Модерация, зашедшая в тупик
Разработчики столкнулись с классической дилеммой модераторов: как разрешить «ванильную» эротику, но при этом железобетонно отсечь жесткий криминал, насилие и табуированные девиации? Спойлер: никак.
Языковые модели работают на ассоциациях. Если вы ослабляете фильтры в одной зоне, ИИ начинает радостно галлюцинировать и выдавать дичь в смежных темах. Представители OpenAI робко оправдываются, что хотели запустить «только текстовую переписку», избегая генерации порно-картинок, но алгоритмы все равно сбоят.
В итоге компания решила притормозить. Риск вырастить поколение людей, состоящих в «эксклюзивных отношениях» с программным кодом, оказался слишком токсичным даже для кремниевой долины.