Опасности AI-браузеров: уязвимости Comet и Fellou

Опасности AI-браузеров: уязвимости в Comet и других

Brave опубликовали исследование безопасности AI-браузеров. Выявили системные проблемы с prompt injection.

Ключевые уязвимости:

1/ Prompt injection через скриншоты (Comet)

Атакующий встраивает инструкции в изображения почти невидимым текстом. AI извлекает через OCR и выполняет как команды.

2/ Prompt injection через навигацию (Fellou)

Достаточно попросить AI открыть сайт - содержимое страницы отправляется в LLM и может переопределить намерения пользователя.

3/ Системная проблема

Браузеры не разделяют доверенный ввод пользователя и недоверенный контент с веб-страниц. При этом имеют доступ к аутентифицированным сессиям - банкам, почте, соцсетям.

Итог: простая инструкция на странице или комментарий на Reddit может запустить действия в любом сервисе, где пользователь авторизован.

Напоминает 90-е и начало нулевых, когда интернет был кардинально опаснее. Сейчас снова наступает такое время.

Я активно пробую AI-браузеры, концепт перспективный. Но крайне осторожно отношусь к заходу в банковские/финтех-сервисы и важные соцсети с таких браузеров. Из самого простого и очень неприятного - можно потерять доступ к телеграму, вкл. канал.

Подписывайтесь на Telegram Midov trip.