Anthropic начала тестировать ИИ-агента для Chrome на базе моделей Claude
Он работает как браузерное расширение.
- О запуске предварительной версии ИИ-агента компания сообщила в блоге. Пока инструмент доступен группе из 1000 пользователей с подпиской Anthropic Max стоимостью $100 или $200 в месяц в зависимости от лимитов. Для других открыли лист ожидания.
- ИИ-агент работает как расширение для Chrome и может выполнять действия в браузере от имени пользователя. Например, искать и анализировать информацию, редактировать файлы и другое.
- По словам Anthropic, особое внимание она уделила безопасности. В одном из экспериментов компания отправила агенту электронное письмо, в котором «работодатель» просит удалить все сообщения в целях «гигиены почтового ящика». Что он и сделал.
- После этого Anthropic внедрила меры защиты, которые помогают предотвратить атаки, связанные с фишингом или использованием «быстрых инъекций» — когда злоумышленники используют на сайтах, в электронных письмах или документах «скрытые инструкции», чтобы обманным путём заставить ИИ выполнять вредоносные действия без ведома пользователя.
- Кроме того, Claude запрашивает у пользователя подтверждение для «высокорисковых» действий: оформления покупок, передачи персональных данных или публикации контента.
Меры позволили снизить долю успешных атак до 11.2%
- Браузеры становятся новым «полем битвы» между ИИ-компаниями, которые стремятся обеспечить «более бесшовное» взаимодействие пользователей со своими продуктами, пишет TechCrunch.
- В начале июня 2025 года The Browser Company представила бета-версию ИИ-браузера Dia. В нём есть встроенный чат-бот, который умеет искать данные в интернете, анализирует файлы, распознаёт содержание открытых страниц и может «сканировать» несколько одновременно.
- В июле собственный ИИ-браузер Comet запустила Perplexity. В его основе — «предустановленный» ИИ-поисковик, основной продукт компании. Пользователям также доступен агент Comet Assistant, который по задумке должен автоматизировать рутинные задачи.
11 комментариев