Директор по безопасности Uber предложил завести для ИИ-агентов программу защиты от инсайдеров — компания открыла код ADR
В открытую версию ADR не вошла функция блокировки опасных действий агентов.
- Директор по информационной безопасности Uber Филип Мартин рассказал в интервью Anthropic, что у компаний уже есть программы защиты от инсайдеров среди сотрудников. По его словам, подобная программа для моделей станет обязательной, чтобы внедрять ИИ безопасно.
- Аргумент Мартина: передовые модели можно направить действовать вне ожидаемых рамок, как и людей. При этом внедрение ИИ он называет бизнес-необходимостью, которая наступит в любом случае.
- Защита в Uber складывается из трёх частей: ADR, Enterprise Frontier Safeguards от Anthropic и LLM-шлюза. Шлюз задаёт периметр и контролирует, как ИИ используют внутри компании.
- ADR (Agentic AI Detection and Response) Uber недавно открыла на GitHub под лицензией Apache 2.0. Система собирает телеметрию из сред запуска агентов и реагирует на их действия в реальном времени. Статья о ней принята на конференцию MLSys 2026.
- Например, сенсор ADR собирает данные из Claude Code, Cursor, Codex, GitHub Copilot CLI и других сред, а также ищет на устройствах неизвестных ИИ-агентов и MCP-серверы. Для проверки есть набор ADR-Bench: более 300 задач, 134 MCP-сервера и 17 техник атак.
- Телеметрию Uber объединяет в своей системе обнаружения с выводом классификатора Anthropic. Enterprise Frontier Safeguards, по словам Мартина, станут для ADR ещё одним источником данных.
- Мартин называет два приоритета для защитников: предупреждать человека, вводящего промпт, как можно раньше, например перед рискованным вызовом инструмента, и отслеживать новые паттерны поведения моделей, превращая их в защитные правила.
- Uber обслуживает более 40 миллионов поездок и заказов доставки в день. С Claude команда безопасности моделировала угрозы ещё до выхода Claude Code, а теперь Claude сам собирает контекст из кода, документов и задач в Jira.
- Enterprise Frontier Safeguards Anthropic представила 1 сентября 2026 года. Они сочетают нулевое хранение данных с автоматическим поиском злоупотреблений, а сигналы получает сам клиент. Запуск поэтапный, с осени 2026 года, доступ — по заявке.
Промпты, инструменты и уроки по Claude — в Telegram-боте «Базы без воды».