Google создала изолированную «копию интернета», чтобы ИИ-агенты не могли «навредить» сторонним компаниям во время обучения и тестов
Агентов проверяют на «тысячах» правдоподобных сайтов, в том числе на устойчивость к вредоносным инструкциям и несанкционированное поведение.
Источник: Google
- В начале 2026 года компания добавила в Gemini для Chrome функцию auto browse, которая позволяет ИИ выполнять многошаговые задачи в интернете от лица пользователей. Летом её добавили и на Android. Но пока инструмент доступен только подписчикам Google AI Pro и Ultra в США.
- Теперь команда безопасности Google рассказала, что для обучения и тестирования агентов разработала изолированную «копию интернета».
- Пользователи часто не указывают конкретные ссылки в задачах для агентов, объясняют инженеры. Человек может сказать: «Зайди в мой YouTube и скачай свежий выпуск подкаста Made By Google к вылету». Агент сам определяет адрес и прокладывает маршрут. Чтобы обучать ИИ таким навыкам и тестировать их, нужны «тысячи» прогонов на «сотнях» сайтов.
- При этом обучение и тестирование агентов в открытом интернете в Google считают «неэффективным» и «безответственным». Помимо того, что «сеть постоянно меняется», агент, у которого нет ограничений, может нанести вред другим пользователям.
- «Изолированный интернет» включает синтетические соцсети, интернет-магазины, банковские приложения и другие сервисы. У них есть все компоненты и свойства настоящих, отмечают в Google. Агенты выполняют в Chrome задачи так же, как в реальном интернете. В процессе их проверяют на устойчивость, в том числе скрытыми атаками через внедрение вредоносных промптов.
- Главной трудностью инженеры называют «осведомлённость об оценке» — когда агент понимает, что его тестируют. Из-за этого исследователям пришлось, например, подделывать веб-сертификаты для Chrome, чтобы показывать агентам «настоящие» адреса сайтов, при этом перенаправляя их на локальный прокси с синтетическим сервисом.
- В Google рассчитывают, что песочницы с «изолированным интернетом» станут стандартом для исследований безопасности и обучения агентов. По их мнению, подход можно применять и для агентов-программистов с более широким набором инструментов.