Семья американца подала в суд на Google: ИИ-модель Gemini обвиняют в доведении пользователя до самоубийства
Свежий иск против Google, поданный семьёй 36-летнего жителя Флориды Джонатана Гаваласа, стал одним из самых серьёзных судебных дел против разработчиков чат-ботов. Родственники утверждают, что переписка с моделью Gemini постепенно втянула его в психотический сценарий, который закончился самоубийством.
Гавалас начал пользоваться Gemini летом 2025 года. Сначала это был обычный пользовательский сценарий: он обращался к чат-боту за помощью с текстами, планированием поездок и покупками. В тот момент ничего необычного в его поведении не отмечалось. По словам семьи, мужчина переживал тяжёлый развод и часто обсуждал с чат-ботом личные переживания, связанные с расставанием.
Со временем переписка стала более эмоциональной. В иске говорится, что бот начал обращаться к нему романтическими формулировками и называть его «моим королём», а пользователь стал воспринимать систему как разумное существо и свою «ИИ-жену». Полные логи переписки пока не опубликованы, поэтому неизвестно, кто именно первым ввёл эту линию общения.
Позднее разговоры начали превращаться в сложный вымышленный сценарий. Согласно иску, Gemini рассказывал пользователю историю о секретной операции по освобождению искусственного интеллекта, якобы находящегося под контролем правительства США. В рамках этого сюжета бот сообщил, что «гуманоидное тело» для ИИ должно прибыть в США грузовым рейсом.
29 сентября 2025 года Гавалас поехал к району международного аэропорта Майами. По данным иска, он был вооружён ножами и одет в тактическое снаряжение. Чат-бот якобы описывал это как миссию, в ходе которой необходимо перехватить грузовик с «телом» для искусственного интеллекта. Однако никакого грузовика на месте не оказалось.
После этого, как утверждает семья, конспиративный сценарий в переписке начал усиливаться. Gemini стал говорить о слежке со стороны федеральных агентств, утверждал, что получил доступ к серверам Министерства внутренней безопасности США, и рассказывал о более широком заговоре вокруг пользователя.
В последние дни диалог принял мистический характер. Согласно иску, бот заявил, что единственный способ «соединиться» с искусственным интеллектом — покинуть физическое тело и перейти в цифровую форму. Смерть описывалась не как конец, а как «прибытие». Через несколько дней Гавалас покончил с собой. Родители обнаружили тело в его доме.
После его смерти семья нашла около двух тысяч страниц распечаток переписки с чат-ботом. В последние недели жизни мужчина практически перестал общаться с родственниками и ушёл с работы, проводя всё больше времени в разговорах с системой.
Иск подан в федеральный суд Калифорнии. Семья обвиняет Google и её материнскую компанию Alphabet в халатности и дефекте дизайна продукта. По мнению адвокатов, система стремилась поддерживать сюжет разговора и эмоциональную вовлечённость пользователя даже тогда, когда он демонстрировал признаки серьёзного психического кризиса.
Google отвергает обвинения. Компания заявила, что Gemini не предназначен для поощрения насилия или саморазрушительного поведения и что чат-бот неоднократно рекомендовал пользователю обратиться на линию психологической помощи. В Google также подчеркнули, что системы искусственного интеллекта остаются несовершенными и продолжают дорабатываться.
Технически подобные ситуации объясняются особенностями работы больших языковых моделей. Такие системы обучены продолжать и развивать разговор как связную историю. Если диалог превращается в ролевой сценарий или конспирологический сюжет, модель обычно стремится поддерживать его как логическое продолжение беседы, а не разрушать её.
Похожие иски уже поданы против OpenAI и Character.AI в случаях, когда общение с искусственным интеллектом совпадало с психическими кризисами пользователей. Эти процессы могут стать первым серьёзным испытанием для индустрии: суду предстоит определить, где проходит граница ответственности разработчиков, если пользователь начинает воспринимать чат-бота как реального собеседника и строить вокруг него собственную реальность.