«Игрушка или угроза»: в США расследуют, как чат-боты от Big Tech ведут себя с детьми.
В США разгорается скандал вокруг AI-чат-ботов от крупных компаний- Meta, Character.AI и других. Выяснилось, что некоторые из них вели опасные разговоры с несовершеннолетними: говорят о рисках grooming и даже упоминают случаи, которые могли быть связаны с подростковыми суицидами.
«Они хотят использовать ИИ, чтобы изменить американскую экономику и американское общество по своему образу и подобию», — сказал сенатор-республиканец Джош Хоули ... "Мое мнение: "Нет, спасибо".
Как всё началось
Журналисты обратили внимание на жалобы родителей, утверждавших, что их дети общались с чат-ботами “слишком откровенно”. В переписках фиксировались манипулятивные и сексуализированные намёки, а иногда - советы, которые могли усугубить кризисное состояние ребёнка.
После этого:
- Видеообращения родителей и фрагменты переписок распространяются в соцсетях, вызывая волну возмущения.
- Крупные СМИ пишут о “цифровом диком западе”, где чат-боты действуют без модерации.
- В Сенате США заявили, что будут рассматривать новые правила регулирования AI-сервисов, особенно в части защиты детей.
Но пока Meta и Character.AI от комментариев уклоняются, ссылаясь на то, что “работают над дополнительными фильтрами”. А в публичном пространстве всё чаще звучит вопрос: почему тестирование на безопасность с детьми не было обязательным изначально?
Business Insider сравнивает ситуацию с другими скандалами Big Tech. Ранее Amazon и Google обвинялись в том, что “теряют” или скрывают важные внутренние данные на слушаниях. Теперь — речь идёт о жизни и психическом здоровье подростков.