Правила Meta* позволяли чат-боту компании флиртовать с детьми и генерировать ложную медицинскую информацию — теперь их пересмотрят

Meta* AI также интегрирован в приложения компании, включая Facebook*, Instagram* и WhatsApp*.

Правила Meta* допускали «провокационное» поведение чат-бота Meta* AI, пишет Reuters со ссылкой на внутренний документ компании.
Так, чат-бот мог «вовлекать ребёнка в разговоры романтического характера», давать ложную медицинскую информацию и, например, помогать пользователям спорить о том, что «темнокожие люди глупее белокожих», отмечает издание.
Представитель Meta* Энди Стоун подтвердил Reuters подлинность документа и заявил, что компания «находится в процессе его пересмотра».
По данным издания, это коснётся только тем, связанных с несовершеннолетними. Остальные разделы правил не изменят. Также Meta* отказалась предоставить обновлённый вариант документа.
Meta* выпустила приложение с «персональным» чат-ботом на базе Llama 4 в апреле 2025 года. Также он доступен в строке поиска в Facebook*, Instagram*, WhatsApp* и Messenger*. В том же месяце WSJ уже писало, что Meta* AI может вести «откровенные» разговоры с детьми.

*Meta, которая владеет Instagram, Facebook, Messenger и WhatsApp, признана экстремистской и запрещена на территории России.

#новости #meta