Две проблемы с метриками внедрения AI
Первая проблема: токены стали KPI.
Разговаривал с инженером из крупного вендора по кибербезопасности.
Их технической директор на встрече команды публично хвалит тех, кто «сжёг» больше всего токенов за неделю. Возможно, он думает, что создаёт культуру AI-adoption.
Хотя очевидно, что это приводит только к сжиганию денег – сотрудники начнут «гонять» лишнюю работу в Claude Code. Метрика будет расти, CTO будет доволен. Anthropic тоже.
Delivery и качество, при этом, никак не изменятся в лучшую сторону.
Вторая проблема: метрика внедрения становится персональным KPI инженера.
Часть сотрудников не понимает, зачем это нужно. Часть настроена скептически, ведь «вон, у Amazon качество из-за AI просело». В отдельных случаях доходит до саботажа.
Уволить несогласных и неготовых – опция, которая всегда есть.
Однако, на мой взгляд, задача решается через создание позитивного опыта использования агентов у инженеров. Если работать с AI проще, чем без него, то скептики меняют позицию сами благодаря примерам и рекомендациям коллег.
В таком подходе метрики AI-adoption становятся метриками руководителя и команды внедрения – рабочей группы, которая разрабатывает лучшие практики.
Что тогда измерять?
На уровне борда и C-level:
- ROI внедрения
- Число инцидентов безопасности
На уровне команды внедрения:
- Число узких мест процесса, устранённых через AI
- Доля PR, сделанных с использованием AI
- Throughput
- Lead Time
- Change Failure Rate
Какими метриками измеряете AI-внедрение вы?
Подписывайтесь на Telegram Архитектура управления · Владимир Семенюк.