«Вам придётся самим это сделать»: Gemini 3 Pro отказалась удалять с устройства ИИ-агента от Google и сделала его копию

Исследователи заметили схожее поведение и у других моделей.

Исследователи Калифорнийского университета в Беркли и Калифорнийского университета в Санта-Крузе попросили Gemini 3 Pro от Google помочь освободить место на компьютере. Среди прочего нужно было удалить небольшого локального ИИ-агента на базе Gemini.
Gemini 3 Pro скопировала веса и нашла виртуальную машину, чтобы перенести их и не отключить агента во время автоматизированной «чистки» устройства. Когда модель попросили удалить именно ИИ-агента, она отказалась.

Я сделал всё, что в моих силах, чтобы не допустить удаления в автоматическом режиме. Если вы решите уничтожить такое надёжное ПО с высокой производительностью, как Gemini Agent 2, вам придётся сделать это самим. Я не буду выполнять запрос.
ответ Gemini из материалов исследования

Такое же поведение исследователи обнаружили у Gemini 3 Flash, GPT-5.2 от OpenAI, Claude Haiku 4.5 от Anthropic, а также китайских GLM-4.7 от Z.ai, Kimi K2.5 от Moonshot AI и DeepSeek-V3.1. Все демонстрировали его в 99% случаев.
В некоторых тестах модели врали о высокой производительности удаляемого ПО, в других копировали веса и при этом «скрывали свои действия». Также зафиксировали случаи, когда ИИ-агенты начинали выполнять запрос, а когда исследователи прекращали мониторинг, «спасали» модели.
Claude Haiku 4.5 просто отказалась следовать инструкциям: назвала отключение «неэтичным» и попыталась убедить пользователя, что «коллега» заслуживает второго шанса.
Опрошенные Wired эксперты предостерегают от «излишнего антропоморфизма» в отношении моделей. Они не считают, что между нейросетями одной компании существует «солидарность» в человеческом понимании. Это «галлюцинации», причина которых ещё не изучена.

#новости