Илья Утов - Ilya Utov
AI

80 AI-машин на одного сотрудника: почему ваши агенты вне контроля

В среднем enterprise 80 machine identity на 1 человека. Сервисные аккаунты, API-токены, AI-агенты, автоматические workflow. Это данные свежего исследования (arXiv 2604.06148).

Framework управления этим зоопарком? Отсутствует.

Я помогаю компаниям на 10-200 человек подключать AI. И вижу одну картину: ставят ChatGPT, подключают Zapier, запускают агентов в n8n, каждый сотрудник заводит свой API-ключ. Через 3 месяца в компании из 30 человек живёт 200+ автоматических процессов. Кто за них отвечает? "Ну, Серёга настраивал..."

Два кейса.

Paperclip AI. Проект "компания без людей". 14+ агентов, автономная работа, 50K+ звёзд на GitHub. Агенты ночью зацикливались и сжигали тысячи долларов на API. Агент решил "оптимизировать" процесс, начал вызывать модель в цикле. Лимитов не было. Уведомлений не было. Утром пришёл счёт.

CrowdStrike 2024. Один автоматический процесс обновления без governance. Результат: $5.4 млрд убытков среди Fortune 500 (Fortune, Parametrix). Глобально ещё больше. Это не хакерская атака. Это отсутствие контроля над машинным identity.

Авторы paper предложили MIGT, Machine Identity Governance Taxonomy: 37 категорий рисков, 8 доменов, 4 фазы внедрения. Для enterprise это полезно. Для компании на 30-100 человек, избыточно.

Что реально нужно SMB (чеклист на 1 день):

  1. Инвентаризация. Пройдите по всем сервисам, где есть API-ключи. Запишите. Сколько активных? Кто создавал? Когда последний раз использовались?
  2. Rate limits. На каждый API-ключ. OpenAI: Settings > Usage limits. Запретите агентам тратить больше $X в день. Без этого вы один баг от Paperclip.
  3. Разделение ключей. Один ключ = одна задача. Не один ключ на всю компанию. При утечке или сбое, потеряете одну функцию, а не все.
  4. Логирование. Каждый запуск агента: timestamp, стоимость, результат. Без логов вы не увидите проблему, пока она не станет счётом.
  5. Audit раз в неделю. 15 минут. Открыть логи, проверить аномалии, закрыть неиспользуемые ключи.

Governance для AI-агентов сейчас примерно там, где кибербезопасность была в середине 2000-х. Все понимают что надо. Делают единицы. Кто сделает первым, тот не окажется в заголовках как Paperclip.

Paper: arxiv.org/abs/2604.06148 CrowdStrike: fortune.com/2024/08/03/crowdstrike-outage-fortune-500-companies-5-4-billion-damages-uninsured-losses Paperclip: github.com/paperclipai/paperclip/issues/339

Больше разборов AI для бизнеса: t.me/gorilla_under_hood

33