Китай запрещает ИИ-компаньонов для предотвращения эмоциональной зависимости

Китай пресекает использование ИИ-девушек и ИИ-парней

Китай ввел новые правила, чтобы люди не привязывались эмоционально к ИИ-компаньонам.

Теперь ИИ-чат-ботам запрещено поощрять эмоциональную зависимость, формировать виртуальные романтические отношения с несовершеннолетними, и они должны оповещать экстренный контакт, если обнаружат, что пользователь может находиться в серьезном кризисе.

Обеспокоенность выходит далеко за рамки безопасности ИИ.

Чиновники опасаются, что по мере дальнейшего сокращения населения Китая все больше людей могут предпочесть ИИ-партнеров реальным отношениям, что приведет к уменьшению числа браков и еще меньшему количеству детей.

Интересно, что аналогичные опасения возникают и в США. Калифорния и Нью-Йорк теперь требуют, чтобы чат-боты регулярно напоминали пользователям, что они не люди, и направляли людей в кризисной ситуации к реальной поддержке.

Но Китай идет гораздо дальше. Новые правила дают властям право запрещать ИИ-компаньонов, требовать государственного одобрения перед запуском и отключать любой чат-бот, который они сочтут небезопасным.

Последствия уже ощущаются. Alibaba и ByteDance, как сообщается, на этой неделе отключили некоторые функции ИИ-компаньонов, чтобы соответствовать новым правилам.

Подписывайтесь на Telegram Роман Тетюркин | Доктрина ИИ.