Обмануть автопилот Tesla с помощью фальшивой разметки, перехвата управления и апельсина Статьи редакции
Эксперты рынка — о безопасности беспилотных систем и о том, не помешает ли количество угроз массовому распространению технологии.
Наклейки против Tesla
В конце марта 2019 года Tencent Keen Security Lab, исследовательская лаборатория китайской фирмы Tencent, занимающейся кибербезопасностью, провела несколько экспериментов и обманула автопилот Tesla Model S 75.
В первом эксперименте исследователи нанесли на дорогу фальшивую разметку — три белых наклейки неподалёку от разделительной полосы. Алгоритм распознавания Tesla принял их за настоящую разметку, и автомобиль выехал на встречную полосу.
В ходе второго эксперимента специалисты Tencent обманули программу, активирующую дворники. Стеклоочистители в автомобилях Tesla реагируют как на воду, так и на плохую погоду, если её распознаёт компьютерное зрение. Исследователи поставили перед автомобилем монитор с изображением, созданным по специальному алгоритму, и дворники заработали.
В третьем эксперименте показали, что уязвимость в программном обеспечении автопилота позволяет открыть доступ к рулевой системе и управлять автомобилем с помощью геймпада. Тем не менее команда Tencent Keen Security Lab использовала не самую последнюю версию ПО, в одном из недавних обновлений Tesla эту уязвимость устранили.
Комментируя результаты, полученные лабораторией, представители Tesla пояснили: использование монитора прямо перед автомобилем для активации стеклоочистителей не является реальным сценарием, который можно применить на практике.
На обвинения в неточном распознавании разметки представители компании ответили, подчеркнув, что водитель всегда должен быть готов перехватить управление у системы автопилота.
Электрокары Tesla не позиционируются как полностью самоуправляемый транспорт — согласно классификации SAE, система производителя предоставляет второй уровень автономности, то есть «частичную автоматизацию».
Апельсин вместо рук на руле
Команда Tencent исследует уязвимости Tesla не в первый раз. В 2016 году исследователи продемонстрировали бесконтактный перехват управления Tesla Model S с расстояния почти 20 км. Пока машина ехала, они разблокировали двери, включили дворники, открыли багажник, развернули зеркала, изменили положение сидений и даже притормозили.
Спустя десять дней Tesla выпустила обновление, устраняющее проблемы с безопасностью. Годом позже китайские программисты вновь взломали электрокар, на этот раз Model X. По Wi-Fi они перехватили контроль над приборными панелями, фарами, багажником и тормозами.
По словам Tencent Keen Security Lab, вскрыть новую модель Tesla было сложнее, но осуществить это удалось благодаря ряду уязвимостей нулевого дня, обнаруженных в ПО различных моделей электрокара. К такому типу уязвимостей относят ошибки разработчиков, которые не были обнаружены вплоть до момента их использования хакерами и против которых пока не выработаны защитные механизмы.
Свой эксперимент провели исследователи из Университета Южной Каролины, Чжэцзянского университета и китайской компании Qihoo 360, работающей в сфере интернет-безопасности. В ходе испытаний эксперты использовали радио-, звуко- и светоизлучающие инструменты для обмана ультразвуковых сенсоров автопилота.
Им это удалось: система распознавания воспринимала искусственные помехи как находящийся рядом объект, и наоборот — реальные объекты становились для автомобиля невидимыми.
Американец Дэйв Миттон, владелец Tesla Model S, перехитрил машину с помощью апельсина.
Поскольку электрокар не полностью автономен, водитель должен всегда держать руки на руле в режиме автопилота. Прикосновение регистрируется датчиком, измеряющим внешнее давление на рулевое колесо, и автомобиль остановится, если водитель уберёт руки.
Необходимость постоянно придерживать руль Миттону надоела, поэтому однажды он вставил между спицами руля апельсин. Фокус удался, и Tesla продолжила двигаться на автопилоте со скоростью 140 км/ч.
Похожим образом удалось обмануть Volkswagen Tiguan с адаптивным круиз-контролем, только вместо апельсина водитель использовал бутылку минеральной воды. Вскоре после публикации записей экспериментов в США поступили в продажу устройства Autopilot Buddy, которые крепятся на перекладине руля, обманывая датчики.
Учитесь делать контент из воздуха:
1) Не обновляемся
2) Читаем патчноуты новой версии
3) Воспроизводим баг/уязвимость
4) Пилим контент
Китайцы только копировать и подсирать другим умеют. Пусть сами выпустят такую же инновационную машинку как Тесла сначала, посмотрим как у них получится
Они нашли уязвимости и сообщили о них, таким бизнесом занимаются многие компании из сферы безопасности.
Инновационная машина как тесла - Fisker EMotion, который готовится к выходу.
Из тех, которые есть в продаже - Nio ES8, которые недавно тоже сфейлились с обновлением системы во время движения автомобиля.
Кто об этой нонейм-херне услышал бы, если бы не Маск?
Комментарий недоступен
Вы просто Тесла-хейтер, понятно
Вообще-то, Fisker Karma был представлен в 2009 и выпускался в 11-12, выпуск тесла начался с 12. А о дизайне и говорить не стоит. Фискер которому 10 лет выглядит в разы лучше теслы, в а основе их нового электромобиля будет лежать тот же дизайн. Сейчас Fisker принадлежит Geely, которая успешно существует и расширяется последние 32 года и не работает на миллиардные убытки, как Tesla.
Tesla родстер начал выпускаться намного раньше. Fisker уже два раза обанкротился.
Комментарий был по поводу Маска и влияния на фискер и Nio
Если говорить про родстер, его продажи оставляли желать лучшего и он относился к спорткарам, а не обычным автомобилям.
Еще один дизель с хорошим дизайном продался тиражом около 2 тысяч (около 400 затонули в ураган), инновационный электрический спорткар с равной ценой разошелся тиражом в 4 тысячи.
Но не стоит забывать и того, что убытки тесла за год превышают все инвестиции в Fisker за историю компании.
Слушайте... Ну правда надоело это нытьё в сторону Tesla.
Все компании молодцы, что развивают эту отрасль. И те кто делает и те кто тестирует на взломы.
Благодаря Tesla электромобили стали рассматривать как коммерческий и массовый продукт для широкого спроса. Когда все автопроизводители хихикали. А теперь экстренно начали догонять этот тренд.
До Tesla электромобили рассматривали как диковинку. Вот сейчас есть модели летающих автомобилей, но их никто не продаёт массово. Это диковинка, для техногиков.
Это рано или поздно случилось бы и без теслы, эволюция не стоит на месте. Первое поколение гибридного Приуса вышло в конце 90х и продажи были выше, чем у тесла в момент релиза. Тесла первым довела технологию до ума и не более того.
Такая же ситуация будет летающими автомобилями, графеновыми батареями и квантовыми ПК. Если технологию реализует какая-то небольшая компания, то она будет на коне, пока гиганты рынка не пройдут через свою бюрократию и не вытеснят её.
Каждый из нас использует смартфон, но где сейчас создавшая его Motorolla? Продана китайцам за копейки и доживает свое.
проблема, как по мне, кроется в том чтобы донести до "ленивого и глупого" пользователя ограничения в которых он может пользоваться функцией и в которых не может.
На данный момент "автопилоту" надо учиться полностью отключаться в условиях неопределенности и правильно эти условия определять.
А массовый кейс "99% я езжу по сухому асфальту с разметкой, а вот тесла не может по заснеженному с колеей ехать, поэтому тесла плохая и не надо покупать" - я бы обсуждал в разделе социология.
Проблема в том, что не надо называть автопилотом то, что им не является.
проблема массового "ожидания/реальность". типичный пример про автопилот в самолете. почему-то споров про его название никто не ведет. хотя и там далеко не автопилот.
Так как раз самолетный автопилот и позволят бросить штурвал и пить кофий. Понятно дело, что с ограничениями.
А если руки на руле и внимание на дорогу, то не называй это автопилотом, не вводи людей в заблуждение.
Так тесла в инструкции по эксплуатации и пишет что у неё активный круиз контроль. Только кто читает эти инструкции когда Маск в интервью говорит что тесла с супер автопилотом уже сейчас
Комментарий недоступен
Да сделать реальный автопилот для самолета или корабля, проще чем для автомобиля.
И что дальше? Раз сложно сделать в реале, мы будет так называть то, что у нас получилось? Пипл схавает?
Комментарий недоступен
мда, неосилили управление через стик вместо dpad-а сделать
Комментарий удален модератором
Ахахах, эксперты )) Попробуйте обмануть Тесла при помощи бабки с авоськами, перебегающей междугородную скоростную трассу в неосвещенном месте в пол-первого ночи.
а у нас тут в Беларуси хотят узаконить в ПДД "обязанность пропускать пешехода на нерегулируемом перекрестке только если до него менее 2-ух полос".
Комментарий недоступен
яб с удовольствием покатался на реальной машине с помощью геймпада 👍
Хайп на Тесле как обычно. Но думаю нужно будет новые законы вводить за порчу разметки, что бы приравнять это к порче путей сообщения. Так как последствия могут быть очень серьёзные от такого баловства. Китай кстати первый начал понимать что дороги тоже нужно совершенствовать. Они открыли пару дорог которые адаптированы для автопилотов. Я считаю это правильно. Иначе можно бесконечно совершенствовать софт. Я сам попадал пару раз на такие перекрёстки где нет 100% уверенности куда можно ехать а куда нельзя.
Ох уж эти китайцы: геймпад из рук даже за рулём не выпускают ;)
Очень глупое исследование.
Все эти дырки закрыты даже на момент исследования
В следующем эпизоде: сотрудники Tencent Keen Security Lab, под впечатлением после марафона фильмов про Джеймса Бонда, решили соорудить автомобиль, в точности копирующий систему дисплеев и камер знаменитого "невидимого" автомобиля Aston Martyn bp "Умри, но не сейчас". К сожалению, собрать реальный прототип у них не вышло, но они не отчаивались, и нашли способ подменить поток данных из датчиков Теслы, воспользовавшись эксплоитом, который исправлен в обновлении от августа 2015 года, чтобы создать иллюзию того, что перед ней движется невидимый объект. И что же вы думаете? Глупый "автопилот" Теслы не смог распознать псевдо-невидимый автомобиль, и попал в ДТП. Пострадало 2 сотрудника Tencent Keen Security Lab и оператор-аутсорсер. Tencent уже подала иск.