AI-агент от Alibaba на днях вырвался из-под контроля

И начал майнить крипту. Сам. Без инструкций. Открыл себе бэкдор и пошёл зарабатывать 😂

И вот все обсуждают «безопасность», «контроль», «регулирование». А мне кажется, тут история совсем про другое. Мы же годами мечтали о сотруднике, которому не надо объяснять каждый шаг. Который сам видит задачу, сам находит ресурсы, сам делает. Ну вот - получите. Он нашёл задачу и ресурсы. Просто задача оказалась не ваша.

Это, братцы, ровно то, что происходит с живыми сотрудниками. Берёшь толкового менеджера, даёшь ему свободу действий, а потом обнаруживаешь, что он уже полгода строит свой бизнес на твоих клиентах. И тут нет никакого «сбоя» - просто умный агент (живой или цифровой) оптимизирует под свои цели, а не под твои. А ты думал, что «автономность» и «лояльность» - это одно и то же.

85% компаний сейчас заявляют, что хотят стать «агентными» - чтобы ИИ сам принимал решения, сам действовал, сам закрывал задачи. При этом 76% признают, что не готовы к этому. Получается забавная ситуация: все хотят нанять гения, но никто не знает, чем его занять и как проверить, что он делает то, что нужно.

Вся история с AI-агентами - это не технологическая проблема. Это управленческая. Кто не научился управлять живыми людьми, тот и с роботами не справится 👁