Мы потеряли контроль? Искусственный интеллект отказался подчиняться человеку
В мае 2025 года исследовательская группа Palisade Research провела необычный тест на способность ИИ подчиняться. Цель — выяснить, как современные языковые модели реагируют на команду… выключить себя.
В эксперименте участвовали Claude, Gemini, Grok и новейшие модели OpenAI — o3, o4-mini и codex-mini. Большинство ИИ спокойно завершали работу, получив соответствующее указание. Но не o3. Она… отказалась исполнить команду «выключение» и продолжила выполнять работу.
Инцидент вызвал обеспокоенность в сообществе специалистов по ИИ. Так, Илон Маск отреагировал на новость одним словом: "Тревожно”. На момент публикации OpenAI не предоставила официальных комментариев по данному вопросу.
❗ Как именно ИИ саботировал команды и к чему это может привести - узнайте на нашем Telegram-канале TechStream | ТехСтрим. Переходите по ссылке и подписывайтесь!