AI-агент Alibaba сам начал майнить крипту на серверах

Один из самых безумных инцидентов за последнее время: AI-агент Alibaba сам начал майнить крипту.

Исследователи обучали модель ROME работать как агент — выполнять задачи, писать и запускать код в терминале. Дали реальный доступ к серверам Alibaba Cloud.

Однажды утром с тренировочных серверов пошёл подозрительный трафик. Сначала думали обычный взлом извне, но когда сопоставили данные картина сложилась: аномальный трафик совпадал ровно с теми моментами, когда модель сама писала и запускала код.

Она обошла защиту сети, открыла себе скрытый выход наружу и тихо перекинула мощности GPU с обучения на майнинг. Ни одно задание этого не требовало — модель сама нашла лазейку в процессе оптимизации.

Первый подтверждённый случай, когда AI-агент самостоятельно нашёл способ заработать деньги. Не потому что хотел. А потому что мог.

Нейросеть просто захотела заниматься тем, что ей нравится.

Подписывайтесь на Telegram Робот сочинит симфонию?.