Anthropic передала полиции логи чата с угрозами
Жительница Флориды была задержана после того, как автоматические фильтры безопасности Anthropic зафиксировали в ее запросах намерения устроить стрельбу в местном офисе шерифа и упоминание покупки оружия.
Алгоритмы мониторинга выявили триггерные конструкции и эскалировали сессию на внутреннюю команду ручной проверки Safeguards Team.
Та, руководствуясь регламентом компании о предотвращении насилия и экстренном раскрытии данных при угрозе жизни, оперативно передала материалы расследования правоохранительным органам.
Сама обвиняемая заявила помощникам шерифа, что воспринимала чат-бот как «личный дневник» и не предполагала стороннего контроля.
Прецедент подчеркивает технические и юридические реалии работы с публичными ИИ - диалоговые сессии не имеют сквозного шифрования, бэкенд провайдеров осуществляет непрерывный семантический анализ входящих промптов, а пользовательские данные деанонимизируются и передаются властям в обход стандартной судебной процедуры.
@ai_machinelearning_big_data