Google создала изолированную «копию интернета», чтобы ИИ-агенты не могли «навредить» сторонним компаниям во время обучения и тестов

Агентов проверяют на «тысячах» правдоподобных сайтов, в том числе на устойчивость к вредоносным инструкциям и несанкционированное поведение.

Источник: Google 
Источник: Google 
  • В начале 2026 года компания добавила в Gemini для Chrome функцию auto browse, которая позволяет ИИ выполнять многошаговые задачи в интернете от лица пользователей. Летом её добавили и на Android. Но пока инструмент доступен только подписчикам Google AI Pro и Ultra в США.
  • Теперь команда безопасности Google рассказала, что для обучения и тестирования агентов разработала изолированную «копию интернета».
  • Пользователи часто не указывают конкретные ссылки в задачах для агентов, объясняют инженеры. Человек может сказать: «Зайди в мой YouTube и скачай свежий выпуск подкаста Made By Google к вылету». Агент сам определяет адрес и прокладывает маршрут. Чтобы обучать ИИ таким навыкам и тестировать их, нужны «тысячи» прогонов на «сотнях» сайтов.
  • При этом обучение и тестирование агентов в открытом интернете в Google считают «неэффективным» и «безответственным». Помимо того, что «сеть постоянно меняется», агент, у которого нет ограничений, может нанести вред другим пользователям.
  • «Изолированный интернет» включает синтетические соцсети, интернет-магазины, банковские приложения и другие сервисы. У них есть все компоненты и свойства настоящих, отмечают в Google. Агенты выполняют в Chrome задачи так же, как в реальном интернете. В процессе их проверяют на устойчивость, в том числе скрытыми атаками через внедрение вредоносных промптов.
  • Главной трудностью инженеры называют «осведомлённость об оценке» — когда агент понимает, что его тестируют. Из-за этого исследователям пришлось, например, подделывать веб-сертификаты для Chrome, чтобы показывать агентам «настоящие» адреса сайтов, при этом перенаправляя их на локальный прокси с синтетическим сервисом.
  • В Google рассчитывают, что песочницы с «изолированным интернетом» станут стандартом для исследований безопасности и обучения агентов. По их мнению, подход можно применять и для агентов-программистов с более широким набором инструментов.
88
11
11