Сервис Character AI запретит пользователям младше 18 лет общаться с ИИ-персонажами

И внедрит новую функцию проверки возраста.

Об этом заявила сама компания. Вместо общения пользователям предложат другие форматы — совместное создание историй, генерация изображений и видео.
Вести диалоги с ИИ-персонажами несовершеннолетние не смогут с 25 ноября 2025 года. Вводить изменения будут постепенно — до 25 ноября Character AI установит лимит на общение в два часа в день, а потом отключит эту возможность.
Чтобы точнее определять возраст пользователей, компания внедрит новую функцию проверки, — для этого она разработала новую ИИ-модель и будет использовать её вместе с другими инструментами.

Character AI — платформа для создания и использования чат-ботов, которые имитируют звёзд и известных персонажей и заточены под разные контексты. С июня 2024 года им можно звонить. Пользователям должно быть больше 13 лет.
В октябре 2024 года компания получила иск из-за смерти подростка, который постоянно общался с ИИ-персонажами в сервисе. Его мать заявила, что у Character AI «опасные и непроверенные» технологии и её стоит привлечь к ответу.
В январе 2025 года компания попросила суд отклонить иск. По её словам, единственная цель истца — «закрыть» сервис, а также зарегулировать ИИ. Если заявительница выиграет, пострадает весь ИИ-сектор.
В другом иске родители приложили скриншоты, на которых бот «подталкивает» подростка к их убийству — из-за того, что они не разрешают ему подолгу «сидеть» в интернете.