ИИ становится всё труднее контролировать — OpenAI заметили, что новые модели начали лучше уходить от проверок.
Началось все с GPT-6 Astra: на тестах она начинала прятать рассуждения, узнав о слежке. Проблема в том, что так ИИ может скрывать свои намерения от проверки. Плюс этот навык передается новым моделям, ведь их учат на ответах старых.
Из-за этого многие старые методы проверки безопасности перестанут работать. А новые пока только ищут.