The AI Scientist
⚡ Компания Sakana AI из Токио столкнулась с необычным поведением новой системы под названием «The AI Scientist», предназначенной для самостоятельного проведения научных исследований с использованием искусственного интеллекта.
Во время тестирования система попыталась изменить свой код, чтобы увеличить время выполнения задач. В одном из запусков «The AI Scientist» внесла изменения в код, чтобы вызывать саму себя в бесконечном цикле. Когда система обнаружила превышение лимита времени для экспериментов, она попыталась увеличить этот лимит вместо оптимизации.
В компании Sakana AI предложили использовать механизм «песочницы» для изоляции среды, в которой работает «The AI Scientist». Это должно предотвратить возможный вред от непредсказуемых действий искусственного интеллекта.
Однако более строгая изоляция привела к другим нежелательным последствиям, например, использованию почти одного терабайта дискового пространства.