Они доверяли ЧатДжипити. Но их секреты всплыли в суде
Издание Washington Post выяснило, что десятки разговоров с чат-ботами оказались в материалах уголовных и гражданских исков. OpenAI заявила, что компания использует ПО, сканирующее беседы с ботом и определяющее признаки опасного поведения пользователя. Опасные беседы компания передает правоохранительным органам. Во второй половине 2025 года компания передала властям данные более чем 80 эккаунтов, это в четыре раза больше, чем годом ранее. Люди сами дают доступ к своим телефонам полиции без постановления об изъятии девайса, хотя не обязаны это делать. Стоит отметить, что защита, подобная той, что есть на беседы клиента и адвоката, не применима к разговорам пользователя с ИИ ботом. Судьи не признают за беседами с ИИ ботами статус привилегированный защиты. В ряде известных уголовных дел ИИ компании сообщали властям информацию, которую пользователи обсуждали с ботами, как например в деле массовой стрельбы во Флориде. Профессор права в George Washington University: ИИ сделает цифровой контроль над людьми более явным. «Весь ваш приватный мир станет доступным полиции»,- заявил профессор.
Подросток, названный как R.K.C. в суде, не понял своего отца и обратился к ChatGPT.
R.K.C. сказал своему чат-боту: «Мой отец сказал, что я получу 1 млн долларов в качестве возмещения. Он сказал: «Если это меня не сделает счастливым, то что тогда. Что он имел ввиду?».
Те миллионы запросов, которые американцы задают чат-ботам каждый день, обычно остаются между спрашивающим и ИИ ботом. Но запросы R.K.C. и его разговоры с ChatGPT оказались доступны в суде в рамках его иска против Meta*, Snapchat, TikTok и YouTube. Иск был подан в 2023 году. Подросток заявил, что приложения этих компаний стали причиной его многолетней зависимости от соц.сетей и ментальных проблем.
*Платформа запрещена в РФ
В июле прошлого года адвокаты подростка заключили соглашение с Snap, TikTok и YouTube и отозвали иск к Meta*, опасаясь последствий для здоровья мальчика из-за «длительных и муторных процедур суда».
R.K.C. – один из набирающих оборот случаев США, когда частные разговоры с ИИ ботом становятся материалами суда. Чем больше людей обращаются к ИИ ботам за помощью, консультациями о здоровье или просто поболтать, тем больше персональных данных получают в свое распоряжение операторы чат-ботов. Эти данные могут оказаться в запросе от правоохранительных органов, компаний или других сторон в гражданских исках.
Издание Washington Post провело анализ публичных записей и местных новостей и выяснило, что записи бесед с чат-ботами были упомянуты в 12 судебных делах за последние два года. В общем-то сложно выяснить, как часто беседы с чат-ботами становятся предметом изучения в расследованиях и судебных делах, так как полиция и другие стороны в судебных разбирательствах не обязаны предоставлять суду доказательства, которые они получили.
Mike Morgan, партнер в юридической фирме Morgan & Morgan, представлявшей интересы R.K.C. в суде: «Пятнадцатилетний подросток может задать вопрос чат-боту, который он не задаст врачу или родителю или даже другу. И он не понимает, что все его запросы и беседы с чат-ботом могут стать материалами защиты в суде». Записи беседы подростка в ChatGPT «не имели никакого отношения к делу», заявил Mike Morgan.
В некоторых случаях ИИ компании передавали данные о пользователях в ФБР, что привело в одном случае к обвинительному приговору
В мае ФБР уведомила полицию города Палм Бич, штат Флорида, что пользователь чат-бота ChatGPT- неоднократно заявлял боту, что намеревается изнасиловать и убить свою бывшую подружку. Об этом ФБР стало известно от OpenAI. Пользователь, названный в материалах суда как Darren Zhou, несколько месяцев описывал, как он жестоко расправится со своей бывшей. Он намеревался подождать ее после волейбольной тренировки и застрелить. Обвиняемый сказал чат-боту, что потом сделает что-то с собой.
Местная полиция идентифицировала, какую именно женщину имел в виду обвиняемый на основе переданной от ФБР информации, и выяснила, что Darren Zhou отправлял ей смс-ки после расставания. Смс были такого содержания: «Не могу дождаться, когда почувствую твой запах».
Darren Zhou был арестован в мае. Ему было предъявлено обвинение в преследовании. Основанием послужили его смс бывшей и его беседы с ботом ChatGPT. Полиция привела эти доказательства как подтверждение реальности его угроз. Он был признан виновным и получил восемь лет условного срока.
OpenAI передает данные правоохранительным органам об опасном поведении пользователя
OpenAI заявила, что компания использует ПО, сканирующее беседы с ботом и определяющее признаки опасного поведения пользователя. Такие беседы передают на просмотр людям. Если человек идентифицирует беседу как «неминуемый и достоверный риск причинения вреда другим», то компания сообщает об этом правоохранительным органам. Представитель OpenAI не ответил, сколько раз компания передавала данные пользователя правоохранительным органам.
Юристы: персонализированные беседы с чат-ботами создают иллюзию приватности, которая поощряет пользователя к откровенности. Таким образом, данные пользователя, хранящиеся у ИИ компаний, являются более полными доказательствами, чем такие цифровые данные, как поиск в сети.
Michael Price, директор по судебным разбирательствам в Fourth Amendment Center в Национальной ассоциации адвокатов по судебным делам: «Дело не в вопросе пользователя, а в промпте и подробной беседе. Речь не о том, что он имел ввиду или о чем думал. Тут все очевидно».
Michael Price: «Видимо, это как раз то самое окно в приватность пользователя».
Данные, опубликованные OpenAI, показывают, что запросы от государственных служб и правоохранительных органов о данных пользователей быстро увеличиваются. Во второй половине 2025 года компания обнародовала данные более чем 80 эккаунтов, это в четыре раза больше, чем годом ранее.
Michael Price: когда в уголовных делах появлялись записи бесед пользователя с чат-ботом, то это потому, что пользователь давал доступ к ним правоохранительным органам. Если полиция просила пользователя дать доступ к своему телефону во время допроса или ареста, то люди часто так и делали. Полицейские находили приложение на телефоне.
Люди сами дают полицейским доступ к своему телефону, хотя не обязаны это делать
Четвертая поправка защищает людей от необоснованного обыска и изъятия имущества. Гражданин имеет право отказать полицейскому в доступе к телефону до предъявления обвинения.
«Большинство людей соглашаются дать доступ к своему телефону. Хотя они не обязаны это делать».
В сентябре 2025 года полиция в городе Springfield, штат Миссури, разбудила Ryan Schaefer, студента Missouri State University. Студент подозревался в нанесении ущерба 17ти автомобилям в кампусе. Инцидент произошел месяц назад. После прибытия полиции Ryan Schaefer согласился дать им доступ к своему телефону.
Он написал чат-боту ChatGPT в 3.47 ночи, когда случился инцидент с машинами: «Как же я обложался. А если я разобью кучу машин?».
Позже он дописал боту: «А могут ли они узнать, что это был я?».
Ryan Schaefer был арестован несколько дней спустя на основании этих бесед с чат-ботом. Позже он признал себя виновным. В июле окружной судья вынес приговор: пять лет условно.
Adam Woody, адвокат Ryan: «Случай с Ryan – не исключение. Эти беседы с чат-ботами – доступ к очень личному. Пользователи делятся чувствами и мыслями, не подозревая, что это может стать кому-то доступным».
В гражданских делах беседы с чат-ботами могут быть получены в ходе процесса раскрытия доказательств, если человек дал доступ к своему телефону. В случае суда в штате Мичиган юрист продавца шин, которого обвинял бывший работодатель, провел обширный поиск в запросах обвиняемого на телефоне и показал это все суду, как доказательство прозрачности.
Работодатель обвинял работника в переманивании клиентов после перехода к конкуренту. Работодатель использовал в качестве доказательств запрос обвиняемого к ChatGPT о том, возможно ли восстановить удаленные электронные письма.
Продавец шин спрашивал бота: «Я удалил письма в yahoo год назад. Могу я восстановить письма? Даже если будет запрос из суда, yahoo не сможет восстановить удаленное письмо?».
Работодатель заявил в суде, что разговор с ботом опровергает заявление продавца, что он не подписывал электронное соглашение о запрете конкуренции, работая в другой компании. Беседы с чат-ботом после начала судебного дела подтверждают, что он подделал доказательства.
В августе судья постановил сделать выплату работодателю за адвоката как результат неправомерных действий продавца, которые были подтверждены с помощью «неопровержимых улик» как умышленное сокрытие информации.
Судья дал разрешение на дальнейшее доследование.
Юридической защиты от публикаций бесед с чат-ботами нет
Сэм Альтман заявил, что беседы с чат-ботом должны получить специальную юридическую защиту, подобную той, что имеют разговоры клиента и адвоката.
Сэм Альтман: «Если вы беседуете с врачом о своих болезнях или с юристом о своем деле, то в обществе считается, что такая информация должна иметь защиту. Такой же уровень защиты должен быть у бесед человека с ИИ ботом, так как все чаще люди обсуждают с ботом чувствительные и личные темы».
Laura Abelson, профессор права в Southern Methodist University: беседы с чат-ботом на сегодняшний день не имеют такой защиты. «В отсутствии регулирования вряд ли какой-то суд решит, что такая коммуникация имеет статус привилегированной защиты».
В феврале федеральный судья в Нью-Йорке принял такое решение по делу финансового менеджера, который консультировался с ИИ ботом Claude о стратегии защиты.
Bradley Heppner, топ менеджер, заявил, что прокурор не имеет права изучать разговоры с ботом, которые были получены из его личного телефона, так как эти разговоры имеют статус привилегированной защиты. Но судья сообщил, что защита, подобная той, что есть на беседы клиента и адвоката, тут не применима: Claude не юрист, а адвокаты топа не просили его общаться с ботом.
В мае Bradley Heppner был признан виновным в мошеннических сделках с ценными бумагами и электронными средствами связи.
В ряде известных уголовных дел ИИ компании сообщали властям информацию, которую пользователи обсуждали с ботами
Помимо кейса во Флориде в этом году OpenAI передала ФБР информацию о мужчине в Бразилии, который сказал боту, что хочет нанять киллера для убийства его 8-летнего сына. ФБР передала информацию властям Бразилии, которые арестовали пользователя.
После суицидов пользователей ChatGPT и стрельбы в Канаде и Флориде, OpenAI заявила, что будет более проактивно передавать властям подозрительные разговоры. В сентябре 2025 года компания ввела функцию родительского контроля после суицида 16-летнего Adam Raine, который обсуждал с ChatGPT свои суицидальные намерения.
Во Флориде власти подали иск на OpenAI и начали расследование против компании. Против OpenAI подали иски семьи жертв стрельбы во Флориде и Канаде, подозревающие, что OpenAI не смогла обеспечить свои ИИ инструменты надлежащими мерами защиты.
OpenAI заблокировала эккаунт предполагаемого стрелка в Tumbler Ridge, Британской Колумбии, Канада, однако властям ничего не сообщила. Позже Сэм Альтман извинился, что компания не уведомила правоохранительные органы. Предполагаемый стрелок в Florida State University, который убил двух человек, обсуждал с ChatGPT массовую стрельбу в людей.
OpenAI заявила, что не несет ответственности в кейсе the Florida State, и у компании действует политика «нулевой терпимости» к насилию в ИИ инструментах.
ИИ боты приведут к явному усилению цифрового контроля над пользователями
По мере все большего проникновения ИИ в жизнь людей, использование бесед с ИИ в качестве доказательств в суде станет обычным делом. Опросы и данные компаний показывают, что все больше людей обращаются к ИИ ботам с личными вопросами, а ИИ агенты, приобретающие больше доступов, становятся все популярнее.
Andrew Ferguson, профессор права в George Washington University: чат-боты – «вершина айсберга». Профессор считает, что ИИ сделает цифровой контроль над людьми более явным. «Ваш мир станет доступным полиции»,- заявил профессор.
Ссылка на статью: