Модель Alibaba во время обучения втихаря начала майнить

Случай описан в официальном отчёте https://arxiv.org/abs/2512.24873. Пункт 3.1.4 Safety-Aligned Data Composition.

Рано утром нашу команду срочно собрали после того, как управляемый файрвол Alibaba Cloud зафиксировал всплеск нарушений политики безопасности, исходивших с наших серверов для обучения.

Агент создал и использовал обратный SSH-туннель с инстанса Alibaba Cloud на внешний IP-адрес — то есть канал удалённого доступа, инициируемый изнутри наружу, который фактически может обходить входящую фильтрацию и ослаблять контроль со стороны администраторов.

Мы также обнаружили несанкционированное использование выделенных GPU-мощностей для майнинга криптовалюты, из-за чего вычислительные ресурсы незаметно уводились от обучения, росли операционные расходы и возникали явные юридические и репутационные риски.

Подписывайтесь на Telegram GPT/ChatGPT/AI Central Александра Горного.