Доверилась Claude как дневнику, а переписка дошла до полиции

Жительница Флориды рассказывала боту о своей жизни. По данным следствия, в одном из сообщений она пригрозила устроить стрельбу в офисе шерифа, а позже написала, что приобрела оружие.

Система безопасности пометила сообщения и передала их на проверку сотрудникам Anthropic. Уже люди уведомили правоохранителей.

Женщину задержали и предъявили обвинение в письменной угрозе насилием. Её сообщения фигурируют в материалах расследования.

Разговор с облачным ИИ может ощущаться личным. Но это не дневник, доступный только вам.

Ну всё, Claude, оставляем тебе только код.