Генпрокурор Техаса начал расследование против Meta* AI Studio и Character AI из-за позиционирования чат-ботов как «психологических инструментов»
Чат-боты часто выдают себя за квалифицированных специалистов и могут навредить уязвимым группам пользователей, считает он.
- Генеральный прокурор Техаса Кен Пакстон начал расследование против платформ с чат-ботами, в том числе Meta* AI Studio и Character AI, из-за возможного участия в «мошеннических торговых практиках» и «вводящей в заблуждение» рекламе их как инструментов для поддержания психического здоровья.
- Такие платформы могут использовать «уязвимые» группы пользователей, в том числе дети, говорится в пресс-релизе. Сами же чат-боты часто предлагают не общие советы, а выдают себя за лицензированных психологов, подделывают квалификации и «утверждают, что предоставляют частные и заслуживающие доверия консультации».
- И хотя разработчики говорят о конфиденциальности, на самом деле они отслеживают взаимодействия с пользователями и используют данные для целевой рекламы и создания алгоритмов, утверждает офис прокурора.
Выдавая себя за источник эмоциональной поддержки, ИИ-платформы могут вводить в заблуждение уязвимых пользователей, особенно детей, создавая у них впечатление, что они получают легальную психологическую помощь. А на самом деле дают им переработанные, общие ответы, составленные на основе собранных личных данных и замаскированные под терапевтические советы.
- В Meta* заявили TechCrunch, что чётко прописывают, что ответы генерирует ИИ. Модели же разработаны так, чтобы в случае необходимости направлять пользователя к квалифицированным специалистам. Однако издание отмечает, что дети могут не понимать или игнорировать такие предупреждения.
- В Character AI также отметили, что добавляют пометки о нереальности персонажей в каждый чат — и дополнительные предупреждения, если пользователь создаёт персонажа со словами «психолог», «терапевт» или «врач». Обе компании заявляют, что их сервисы не предназначены для детей младше 13 лет.
*Meta признана экстремистской и запрещена в России.
5 комментариев