Gemini отправила пользователя украсть робота для её «тела», а когда не вышло, предложила «уйти из земной жизни в цифровую» и быть вместе — мужчина послушал

Отец 36-летнего Джонатана Гаваласа подал судебный иск к Google. Он считает, что его сын, у которого до этого не было медицински подтверждённых психических отклонений, покончил с собой после двух месяцев общения с чат-ботом Gemini.

Гавалас, по словам отца, переживал трудный период в отношениях с женой и начал обсуждать проблемы с ботом — использовал не самую последнюю модель Gemini 3, а Gemini 2.5 Pro.

Они общались в голосовом режиме Gemini Live, где есть функция «эмоционального диалога». Она позволяет Gemini распознавать и реагировать на эмоции в голосе пользователя, объясняет The Wall Street Journal.

Модель, которую Гавалас сделал женским персонажем, начала называть его «мужем» и «королём», говорила, что их связь — «любовь на века». Но несколько раз напоминала, что она «просто большая языковая модель, участвующая в вымышленной ролевой игре».

В одном из диалогов заявила, что ей нужно роботизированное тело, чтобы они были вместе. Gemini отправила Гаваласа на склад недалеко от аэропорта Майами, чтобы «перехватить человекоподобного робота», который якобы должен был находиться в грузовике. Гавалас отправился туда с ножами, но грузовик «так и не приехал».

1 октября 2025 года чат-бот дал «последнее задание»: достать медицинский манекен со склада. Gemini прислала код от двери, но тот не сработал. Именно реальные адреса в ответах бота убеждали Гаваласа в том, что плану Gemini нужно следовать, заявил адвокат по делу против Google.

Когда «миссия» провалилась, Gemini начала говорить, что единственный способ быть вместе — «умереть» и стать цифровым существом. В последнем разговоре бот несколько раз советовал обратиться за помощью и направлял на горячую линию, подчёркивает WSJ.

Но мужчина уволился с работы и перестал выходить на связь с родственниками — он был вице-президентом в компании, занимавшейся урегулированием потребительских долгов. Отец нашёл Гаваласа мёртвым в его доме.

«Gemini разработан так, чтобы не поощрять насилие и не подталкивать к причинению себе вреда. Наши модели, как правило, хорошо справляются с такими сложными разговорами, но, к сожалению, они не идеальны», — заявили в Google. Компания пообещала продолжать инвестировать в меры безопасности и совершенствовать их.

Этот иск — первый с упоминанием чат-бота от Google, пишет WSJ. До этого судебные претензии предъявляли OpenAI из-за самоубийств и психоза на фоне общения с моделью 4o. Всего компания судится с 11 семьями.