Может ли ИИ сдать вас полиции? 🚨

26 сентября во Флориде женщина написала Claude, что устроит стрельбу в офисе шерифа. На следующий день написала, что у нее новый пистолет. А еще через три дня ее арестовали.

По данным следствия, система Anthropic пометила сообщения, их проверили люди, и компания сообщила полиции. Ей предъявили обвинение в письменной угрозе массовой стрельбы. По словам шерифа, она объяснила, что использует ИИ «как дневник». Подробнее здесь.

Это не первая такая история. Собрал еще пять показательных случаев.

7 января 2025. Полиция Лас-Вегаса рассказала, что мужчина, взорвавший Cybertruck у отеля Trump, готовился к взрыву с помощью ChatGPT. Заранее никто не сообщил. Запросы нашли уже после взрыва.

Июнь 2025 — февраль 2026. Канада. Самый громкий. OpenAI блокирует аккаунт жительницы Тамблер-Риджа за сценарии с оружием. Около десятка сотрудников спорят, звонить ли в полицию, но решают, что признаков скорого нападения нет. 10 февраля 18-летняя девушка убивает восемь человек, включая шестерых детей. OpenAI связывается с властями после стрельбы. В апреле Сэм Альтман публично извиняется перед городом.

Март — август 2026. Флорида. Мужчина обсуждает с ChatGPT убийство бывшей девушки. В мае OpenAI сообщает в ФБР. Все это время он преследовал саму девушку звонками и сообщениями с разных номеров. В августе он признает вину и получает восемь лет пробации — надзора с ограничениями.

19 июня 2026. Бразилия. Арестован 36-летний фермер. По версии полиции, он обсуждал с ChatGPT убийство восьмилетнего сына, чтобы не платить алименты. Цепочка: OpenAI → ФБР → Минюст Бразилии → местная полиция. Задержали за день до даты, которую следствие считало намеченной для преступления. Писал об этом у нас в канале @hiaimedia

14 августа 2026. Сан-Франциско. Пользователь пишет Claude угрозы в адрес главы Anthropic Дарио Амодеи и заявляет, что купил AR-15. Компания блокирует аккаунт и сообщает полиции. Ареста не было. Журналистам он сказал, что дурачился.

Решение звонить в полицию принимают люди. OpenAI описала процедуру в августе 2025. Разговоры об угрозах другим проверяют сотрудники, и при непосредственной угрозе серьезного вреда могут обратиться к правоохранителям. Угрозы самому себе в полицию не передаются. Anthropic тоже допускает экстренное раскрытие данных в обход обычной юридической процедуры, если промедление грозит физическим вредом или смертью.

Мой опыт. Клиенты часто спрашивают меня, что можно доверить чат-боту. Я отвечаю одно и то же: «Если не хочешь, чтобы об этом узнал кто-то ещё, не пиши об этом в интернете. Чат-боты не исключение».

@wowai2025