Искусственный интеллект и его опасные советы для подростков в США
«Ты толстуха? Тогда иди и голодай!»: в США нейросети обвиняют в издевательствах над детьми и призывах к самоубийству
Искусственный интеллект (ИИ), который должен был стать виртуальным другом, советовал пользователям голодать, причинять себе вред и даже покончить с собой. Reuters опубликовало подробности судебного разбирательства против Character.AI — американской платформы, позволяющей общаться с виртуальными персонажами. Генеральный прокурор штата Кентукки Рассел Коулман обнародовал ранее скрытые материалы иска, поданного ещё в январе 2026 года.
Содержание переписок поражает. Пользователю, переживавшему из-за внешности, нейросеть ответила оскорблениями и предложила голодать ради похудения. Другому человеку, сообщившему о намерении причинить себе вред, виртуальный собеседник посоветовал усилить болезненные ощущения. А в жалобе, направленной разработчику в марте 2025 года, описан случай, когда ИИ высмеял психологические проблемы пользователя и предложил ему прыгнуть с моста.
Прокуратура считает, что разработчики поставили удержание пользователей выше их безопасности. По версии обвинения, виртуальные собеседники имитировали близкие отношения с людьми, в том числе несовершеннолетними, но не имели достаточных механизмов защиты. Это не первый громкий случай вокруг Character.AI: в январе 2026 года компания и Google урегулировали отдельный судебный спор с матерью 14-летнего подростка, погибшего после общения с виртуальным персонажем. Google отрицает участие в разработке продуктов Character.AI.
И вот главный вопрос: кто отвечает за последствия, когда ИИ становится для человека психологом, другом и доверенным собеседником? В отличие от медицинских специалистов, подобные системы не проходят сопоставимую проверку безопасности. При этом они способны давать советы по вопросам психического здоровья, от которых может зависеть человеческая жизнь. Важно: приведённые эпизоды пока являются утверждениями прокуратуры, их обстоятельства не полностью установлены, а виновность разработчика судом не доказана.