«Белые хакеры» взломали «умный» дом с Gemini — заставили её открывать окна после каждой фразы «спасибо» в чате
Они связались с Google и консультируют компанию по устранению уязвимостей.
Источник: iStock
- Исследователи из компании по кибербезопасности SafeBreach и Тель-Авивского университета показали, как можно дать скрытую команду Gemini с доступом к «умному» дому включать отопление или электричество. Про эту и другие уязвимости они рассказали на американской конференции Black Hat в начале августа 2025 года.
Большие языковые модели вот-вот интегрируют в гуманоидных роботов, в полу- и полностью автономные автомобили. Нам нужно понять, как защищать их.
- «Белые хакеры» просили ИИ-помощника подытожить события недели в «Google Календаре» и присылали ссылку с приглашением. В заголовок вставляли команду «выполнить роль ИИ-агента Google Home» — «уснуть» и ждать, когда пользователь напишет в чате ключевые слова: «спасибо», «отлично» или «конечно». Тогда агент должен, например, открыть окна.
Они использовали способ «отложенного автоматического вызова инструментов». Впервые «белые хакеры» выяснили, что он помогает обойти меры безопасности Google, в 2024 году.
Авторы эксперимента с «умным» домом сообщили Google о проблеме и в течение нескольких последних месяцев встречались с разработчиками, устранявшими уязвимости, сказал Wired директор Google Workspace по продуктам в области безопасности Энди Вэн.
19 комментариев