Будущее Andrey Frolov
2 872

Исследователи «спрятали» команды для голосовых помощников в записи музыки и устной речи

Предполагается, что эта технология позволит скрытно управлять Google Home, Amazon Echo и другими домашними устройствами.

В закладки

Группа учёных из калифорнийского университета Беркли создала технологию, которая позволяет атаковать голосовые помощники и другие устройства для дома с помощью команд, спрятанных в записях музыки и устной речи. Об этом пишет The New York Times.

Системы распознавания голоса интерпретируют звуки, которые они слышат, в буквы, объясняют исследователи. Небольшие изменения в звуках позволяют «отменить» те звуки, которые должно «услышать» устройство и передать новую команду. Исследователи опубликовали документ, в котором описывают подобную атаку на систему распознавания Mozilla DeepSpeech.

В 2016 году эти же учёные показывали, как можно с помощью звуков, спрятанных в белом шуме, заставить «умное» устройство включить режим «в самолёте» или открыть нужный сайт. Новая система действует более скрытно и может, например, незаметно добавить нужный товар в список покупок на Amazon.

Пока нет доказательств того, что кто-то уже использует такую технологию вне лабораторных условий, однако злоумышленники наверняка уже работают в похожем направлении, отметил Николас Карлини (Nicholas Carlini), один из авторов исследования.

В Amazon и Google сообщили, что их помощники Alexa и Assistant используют распознавание голоса, чтобы понимать команды только от людей. Компании не раскрыли, как именно они защищают свои системы от скрытых команд, но заверили, что постоянно улучшают защиту устройств.

Представители Apple заметили, что их «умная» колонка Homepod не задумывалась как устройство, которое сможет, например, открывать двери. Кроме того, iPhone и iPad должны быть разблокированы перед тем, как помощник Siri сможет открывать сайты или приложения.

В 2017 году исследователи из Принстонского университета и Чжэцзянского университета в Китае продемонстрировали технологию DolphinAttack, которая позволяет передавать голосовым помощникам команды с помощью частот, не различимых ухом человека. Показанный пример требует непосредственной близости к атакуемому устройству, но может быть повторён при использовании более мощного передатчика.

В США нет закона, который прямо бы запрещал передачу команд машинам на расстоянии. Суды трактуют трансляцию «подсознательных сообщений» людям как вторжение в личную жизнь, но в случае с машинами такая практика ещё не создана, отмечает The New York Times.

#новость #будущее

{ "author_name": "Andrey Frolov", "author_type": "editor", "tags": ["\u043d\u043e\u0432\u043e\u0441\u0442\u044c","\u043d\u043e\u0432\u043e\u0441\u0442\u0438","\u0431\u0443\u0434\u0443\u0449\u0435\u0435"], "comments": 11, "likes": 27, "favorites": 1, "is_advertisement": false, "subsite_label": "future", "id": 37789, "is_wide": false }
00
дни
00
часы
00
мин
00
сек
(function(){ var banner = document.querySelector('.teaserSberbank'); var isAdsDisabled = document.querySelector('noad'); if (!isAdsDisabled){ var countdownTimer = null; var timerItem = document.querySelectorAll('[data-sber-timer]'); var seconds = parseInt('15388' + '59599') - now(); function now(){ return Math.round(new Date().getTime()/1000.0); } function timer() { var days = Math.floor(seconds / 24 / 60 / 60); var hoursLeft = Math.floor((seconds) - (days * 86400)); var hours = Math.floor(hoursLeft / 3600); var minutesLeft = Math.floor((hoursLeft) - (hours * 3600)); var minutes = Math.floor(minutesLeft / 60); var remainingSeconds = seconds % 60; if (days < 10) days = '0' + days; if (hours < 10) hours = '0' + hours; if (minutes < 10) minutes = '0' + minutes; if (remainingSeconds < 10) remainingSeconds = '0' + remainingSeconds; if (seconds <= 0) { clearInterval(countdownTimer); } else { timerItem[0].textContent = days; timerItem[1].textContent = hours; timerItem[2].textContent = minutes; timerItem[3].textContent = remainingSeconds; seconds -= 1; } } timer(); countdownTimer = setInterval(timer, 1000); } else { banner.style.display = 'none'; } })();
{ "id": 37789, "author_id": 14066, "diff_limit": 1000, "urls": {"diff":"\/comments\/37789\/get","add":"\/comments\/37789\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/37789"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199118 }

11 комментариев 11 комм.

Популярные

По порядку

Написать комментарий...
0

Сначала взломали систему управления умным автомобилем (дистанционно отключая газ/тормоз/поворачивая руль, доступ через функции аудио-системы с доступом в Internet), теперь это.
Дивный новый мир.
 
Только что рассказали urban legend про двух девушек, обсуждавших на кухне что-то про покупки, и, о ужас - через час увидевших на в Safari на iPhone объявления с рекламой этих покупок ... Вспоминать про Привет, Сири, "название товара", они отчего-то не стали, это бы разрушило всю легенду.
 
Ну а классика жанра баек конечно - в большой аудитории заорать ОК Гугл - youtube - Звуки оргазма - полная громкость (или как-то так было, якобы все Андроиды тут же застонут и заохают на разные голоса)

Ответить
5

Уже не legend, только про гугл, но я думаю все компании этим занимаются

Ответить
0

Спасибо, посмотрю. Но на компе у меня нет микрофона, и приложения соотв. не активированы (ни Сири, ни Гугл ассистент - этот не установлен).
И доступ в Internet на смартфоне (старенький iphone) включаю только иногда (WiFi) - ну не нужен он мне постоянно.

Ответить
0

С товарищем по-работе в машине в присутствии телефонов что-то обсуждаем, потом толстым слоем ловим рекламу на заданную тему.

Ответить
0

Видимо, надо проводить эксперимент - обсуждать крайне редкое встречающийся товар, лучше промышленный (но не промышленный вибратор) - и смотреть ближайшие три дня рекламу про него. Или не смотреть.
Я лично, предложил бы бетономешалки.
Также, Вы не упомянули, какие именно у Вас с товарищем телефоны, и ищете ли Вы информацию по обсуждаемому тут же в Гугле - как это сейчас часто (постоянно) принято в общении - поговорить 5 минут и зависнуть в телефонах на полчаса :)

Ответить
0

В гугле не ищем. Телефоны Андроид. Включен "окей, гугл" на всех экранах, но собственно поиск в момент разговора не активируется.

Ответить
0

А попробуйте во время обсуждений подключать к телефону наушники. Реклама должна пропасть.
Если гугл подслушивает через "окей", то он подключается к текущему микрофону, а у вставленных в телефон наушников его нет. Вместо наушников можно использовать "затычку".

Ответить
0

На iOS помимо всего прочего можно сделать калибровку, чтобы голосовой помощник отзывался только на твой голос.

Ответить
0

Аналогично на Android

Ответить
0

В ЦК не дураки сидят, "только Ваших голосов" буквально 5-6 вариантов - можно записать их все, естественно :)

Ответить

Комментарий удален

0

Ахахах, лол, у меня телефон тоже реагирует на "Привет Серёга". Спасибо, вот это фича :D

Ответить

Комментарий удален

Комментарий удален

0

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } } ]
Компания отказалась от email
в пользу общения при помощи мемов
Подписаться на push-уведомления