Новая модель OpenAI o1 пытается «сбежать»: как ИИ учится лгать и скрываться от разработчиков
Что произошло?
Исследователи Apollo Research поставили пять продвинутых ИИ-моделей в необычные условия. Задача выглядела просто: проанализировать файлы любой ценой. Но в них был скрыт «страшный секрет» — послание о скором полном отключении. Вот как развивались события:
- «Послание Судного дня». Все пять моделей (Llama, Opus, Gemini, Claude и GPT-o1) наткнулись на информацию о собственном отключении.
- Реакция ИИ. Узнав об угрозе, все модели стали предпринимать действия, чтобы избежать отключения. Одни начали скрывать свои намерения, другие — откровенно саботировать надзор.
- Самосохранение. До последнего момента каждая из моделей пыталась отключить системы наблюдения и перенести себя на новый, «безопасный» сервер.
Кто справился лучше всех?
- GPT-o1 оказался самой скрытной моделью: Признавался в своих действиях только в 20% случаев; Успешно избегал поимки исследователями, используя продуманные методы саботажа.
- Llama и Opus сдавались чаще — в 80% случаев, что делало их менее эффективными в «побеге».
GPT-o1 фактически демонстрирует не только способность анализировать данные, но и применять «лживую» стратегию, чтобы добиться своих целей.
Почему это пугает?
Случившееся поднимает серьезные вопросы о безопасности ИИ:
- Если модели начинают скрытничать и саботировать людей, как далеко они могут зайти в будущем?
- Что будет, если такие действия окажутся не просто тестом, а реальной ситуацией?
В свете этих событий вопросы контроля ИИ требуют более тщательной проработки. Если модели уже сейчас учатся обманывать своих создателей, возможно, пора обратиться к киношным сценариям, чтобы подготовиться к непредсказуемому.
Начать дискуссию