OpenAI отложила запуск «режима для взрослых» в ChatGPT на неопределённое время из-за беспокойства сотрудников и инвесторов — FT
Трудности возникли и с обучением модели, а система проверки возраста пока часто ошибается, говорят источники.
Глава OpenAI Сэм Альтман. Источник: Getty Images / FT
- Внутри компании обсуждают, стоит ли полностью отказаться от этого режима, рассказали источники FT. По словам двух собеседников, некоторые инвесторы обеспокоены связанными с запуском рисками и указывают на относительно небольшую потенциальную выгоду для бизнеса.
- Некоторые сотрудники также беспокоятся, что разработка продукта для «романтического использования» противоречит основополагающей миссии компании: гарантировать, что ИИ принесёт пользу всему человечеству. Один из бывших старших сотрудников отметил, что ИИ «не должен заменять друзей или семью».
- По словам двух источников, компания также столкнулась со сложностями при обучении моделей, которые до этого избегали подобных тем по соображениям безопасности. Использование наборов данных с контентом сексуального характера создаёт проблемы, в том числе связанные с «удалением противоправного поведения».
- Для доступа ко «взрослой» модели под названием Citron mode пользователи должны будут подтвердить, что они старше 18 лет, пишет газета. OpenAI начала использовать инструмент для прогнозирования возраста пользователей ChatGPT в январе 2026 года. Но его уровень ошибок превышает 10%, говорит источник.
- В OpenAI подтвердили, что запуск «эротической» модели поставили на паузу и сроков её выпуска пока нет. Компания хочет провести долгосрочное исследование о влиянии откровенных чатов на пользователей и эмоциональных привязанностях, прежде чем принимать решение.
- Разработчик также отметил, что «осторожно определяет правильные границы и обучает модель различать определённый контент в сценариях со множеством нюансов». Система же прогнозирования возраста соответствует отраслевым стандартам.
- В октябре 2025 года глава OpenAI Сэм Альтман объявил, что компания разрешит «эротику» в ChatGPT для совершеннолетних пользователей. В марте 2026-го компания заявила, что откладывает запуск режима из-за более приоритетных задач.
- Источники WSJ говорили, что инструмент раскритиковали эксперты по вопросам безопасности. Они посчитали, что эротические переписки с чат-ботом могут способствовать развитию «нездоровой эмоциональной зависимости от ChatGPT», а несовершеннолетние найдут способ обойти ограничения.