Китай ограничивает ИИ-компаньонов: почему власти взялись за чат-ботов «виртуальных партнеров» и что это изменит

Еще недавно романтические чат-боты казались безобидным развлечением. Они умеют поддержать разговор, сделать комплимент, поднять настроение и даже «выслушать» после тяжелого дня. Однако в Китае решили, что у такой технологии есть и обратная сторона. Власти начали ужесточать требования к сервисам, которые предлагают пользователям виртуальных партнеров, чтобы снизить риски манипуляций, мошенничества и эмоциональной зависимости.

Согласно опубликованным Временным мерам по управлению сервисами антропоморфного взаимодействия с ИИ, документ вступил в силу 15 июля 2026 года.

Разбираемся простыми словами, что происходит и почему эта тема важна не только для Китая, но и для всей индустрии искусственного интеллекта.

Главная причина — стремительное развитие ИИ-компаньонов. Современные модели способны вести настолько естественный диалог, что некоторые пользователи начинают воспринимать их почти как реальных людей.

В пояснении к новым правилам китайский регулятор отмечает, что подобные сервисы могут быть полезны в сфере ухода за пожилыми людьми, психологической поддержки и общения, однако одновременно создают риски эмоциональной зависимости, нарушения психического благополучия и размывания границы между человеком и ИИ.

Сами по себе такие сервисы не считаются проблемой. Опасения возникают тогда, когда виртуальный собеседник начинает влиять на поведение человека, побуждает тратить деньги или становится заменой реальному общению.

Регуляторы обращают внимание сразу на несколько рисков.

ИИ не устает, всегда отвечает доброжелательно и никогда не спорит без необходимости. Для человека, которому не хватает общения, такой собеседник может стать очень привлекательным.

Со временем часть пользователей начинает проводить с ботом все больше времени, постепенно сокращая количество реальных социальных контактов.

Некоторые сервисы строили монетизацию так, чтобы мотивировать пользователя покупать дополнительные функции.

Например, за подписку бот мог становиться более внимательным, романтичным или открывать новые сценарии общения. Именно такую модель власти считают потенциально манипулятивной, поскольку эмоциональная привязанность может использоваться для увеличения продаж.

Как и любые генеративные модели, чат-боты способны ошибаться.

Они могут выдать неподходящий совет, сгенерировать откровенный контент или поддержать опасную тему разговора. Особенно это касается несовершеннолетних и людей, находящихся в эмоционально уязвимом состоянии.

Еще один важный момент — прозрачность.

Если пользователь не понимает, что разговаривает именно с искусственным интеллектом, возникает риск обмана. Поэтому одна из ключевых задач новых требований — сделать происхождение собеседника максимально очевидным.

Новые требования направлены не на полный запрет ИИ-компаньонов, а на снижение потенциальных рисков.

Если говорить простыми словами, разработчикам придется соблюдать несколько важных правил.

Чат-бот не должен выдавать себя за настоящего человека.

Пользователь с самого начала должен видеть, что перед ним искусственный интеллект, а не реальный собеседник.

Сервисы должны предотвращать генерацию контента, который может причинить вред пользователю, а также ограничивать попытки манипулировать человеком или склонять его к финансовым действиям.

Проще говоря, если виртуальный партнер начинает настойчиво убеждать купить что-то, перевести деньги или совершить рискованный поступок — это уже повод для вмешательства платформы.

Для детей и подростков предполагаются более строгие ограничения.

Речь идет о возрастных механизмах защиты, ограничении доступа к некоторым сценариям общения и дополнительных мерах безопасности.

Платформам необходимо оперативно реагировать на обращения пользователей и отслеживать случаи, когда работа ИИ может причинить вред.

В сложных ситуациях решение должен принимать уже не алгоритм, а человек.

Если сервис предлагает платные функции, пользователь должен понимать, за что именно он платит.

Использование эмоциональной привязанности исключительно как инструмента продаж становится все менее приемлемой моделью.

Для компаний новые требования означают дополнительные расходы.

Потребуются системы модерации, проверки контента, юридическая экспертиза и механизмы защиты пользователей. Для крупных платформ это скорее очередной этап развития продукта, а вот небольшим стартапам придется серьезно пересматривать свои бизнес-модели.

Вероятно, часть сервисов сместит акцент с романтических отношений на более безопасные сценарии использования: обучение, поддержку, развлечения или роль персонального помощника.

Получается интересная трансформация: виртуальный бойфренд постепенно превращается в виртуального лайф-коуча.

Даже самые современные алгоритмы пока не умеют идеально понимать человеческие эмоции и контекст.

Поэтому разработчикам предстоит решить сразу несколько непростых задач.

Во-первых, автоматические фильтры иногда блокируют совершенно безобидные сообщения, а действительно опасные могут пропустить.

Во-вторых, остается вопрос конфиденциальности. Чтобы расследовать спорные ситуации, платформам может потребоваться хранение части данных о переписке. При этом пользователи ожидают сохранения приватности своих разговоров.

И наконец, далеко не всегда легко определить грань между дружеским флиртом, ролевой игрой и психологической манипуляцией. Даже человеку это бывает непросто, а для алгоритма задача становится еще сложнее.

Если новые требования будут реализованы в полном объеме, пользователи, скорее всего, заметят несколько изменений:

Для большинства пользователей это вряд ли сильно изменит повседневное использование сервисов. Зато может сделать их более прозрачными и безопасными.

Хотя новые требования вводятся именно в Китае, сама проблема давно обсуждается во всем мире.

В Европе основной акцент делают на прозрачности работы искусственного интеллекта и защите персональных данных. В США чаще говорят о балансе между безопасностью пользователей и сохранением возможностей для инноваций.

Китай же традиционно уделяет особое внимание вопросам общественной стабильности, поэтому регулирование ИИ-компаньонов вполне вписывается в общий курс развития технологий в стране.

Вероятнее всего, рынок виртуальных партнеров не исчезнет.

Скорее он станет более зрелым.

Компании будут активнее инвестировать в безопасность, улучшать системы модерации и искать способы сделать общение с ИИ одновременно интересным и безопасным.

А те разработчики, которые смогут найти этот баланс раньше конкурентов, получат серьезное преимущество.

ИИ-компаньоны уже перестали быть просто экспериментом и постепенно становятся частью цифровой жизни миллионов людей. Вместе с этим появляются и новые вопросы: где заканчивается дружеское общение и начинается манипуляция? Кто отвечает за советы, которые дает искусственный интеллект? И как защитить пользователей, не остановив развитие технологий?

Именно на эти вопросы сейчас пытается ответить Китай.

Похоже, эпоха, когда виртуальный партнер мог делать практически все что угодно, постепенно подходит к концу. Теперь даже цифровой роман будет существовать по вполне реальным правилам.

И небольшой совет напоследок: если ваш виртуальный собеседник внезапно начинает просить деньги или обещает «особые отношения» после покупки подписки — возможно, стоит закрыть приложение и пообщаться с настоящими людьми. Хотя бы за чашкой чая.