«Машина как будто сама напрашивается на ДТП»

Автор блога Backchannel Марк Харрис пообщался с владельцами автомобилей Tesla, которые рассказали ему о своих впечатлениях от обновленной версии автопилота, которая стала доступна в январе 2017 года. Собеседники Харриса рассказали о самых распространенных проблемах системы, некоторые из которых получили свои собственные прозвища, вроде «страсть к большегрузам» или «пляска на полосе». Редакция vc.ru публикует перевод материала.

Однажды адвокат и любитель автомобилей Уорд Мунди ехал по шоссе Южной Каролины за рулем Tesla S. Вместе с ним в автомобиле находилась его жена. Внезапно машину стало бросать из стороны в сторону по дороге.

«Это самое опасное, что может произойти, когда ты включаешь автопилот», — рассказывает Мунди. Ему удалось вернуть управление над автомобилем, но эта ситуация — не единственная, когда ему пришлось положиться на свою быструю реакцию, чтобы предотвратить ДТП. «Ты можешь ехать со скоростью 80 километров в час, а когда система заметит приближающийся мост, то немедленно ударит по тормозам», — продолжает Мунди.

Иногда автопилот наоборот, не срабатывает в тех ситуациях, когда должен. «Другая крайность — это светофоры, когда автомобиль впереди останавливается, а Tesla продолжает ехать», — вспоминает адвокат.

«Автопилот» — это обобщающий термин для всех технологий Tesla в области самоуправляемых автомобилей. Это комплект аппаратных и программных систем, разработанный для того, чтобы автомобиль мог подстраиваться под скорость других участников движения, двигаться в пределах полосы, автоматически перестраиваться (эта функция называется Autosteer), парковаться или выезжать из гаража.

Как сказал Элон Маск, к концу 2017 года при помощи автопилота Tesla сможет проехать от Лос Анджелеса до Нью Йорка без помощи человека. Однако по мнению Мунди, этот день настанет еще не скоро: «Ездить с автопилотом страшно. Если бы вы проехались со мной и моей женой, то узнали, как часто она кричит, чтобы я его выключил».

Проблемы Мунди разделяют и другие владельцы Tesla, которые обсуждают на форумах и выкладывают на YouTube свои примеры опасного поведения автопилота, при котором автомобиль выезжает на встречную линию или пытается съехать с трассы.

С ноября 2016 года Tesla устанавливает в каждый автомобиль новое оборудование и программное обеспечение для автопилота, выпуская их прежде, чем они пройдут полные испытания. И хотя многие водители готовы за это платить, некоторых беспокоит стратегия компании.

Ставки оказываются высоки для Tesla, поскольку компания применяет рискованный и агрессивный подход к организации тестов. Тем владельцам, которые хотят активировать в автомобиле функцию автопилота, придется доплатить тысячи долларов. Однако если они откажутся, компания потеряет возможность покрыть расходы на разработку технологии.

Поскольку количество свидетельств опасного поведения автомобиля на автопилоте увеличивается, Tesla рискует не только своей незапятнанной репутацией, но и безопасностью некоторых самых крупных фанатов компании.

Джошуа Браун

В марте 2016 года ситуация была более радужной, когда со сцены дизайн-центра Tesla Элон Маск пообещал представить полностью автономный автомобиль по цене в $35 тысяч (плюс дополнительный платеж за активацию функции).

Предполагалось, что Model 3 станет большим шагом вперед для компании — стильный электромобиль, умный настолько, что вы сами можете читать за рулем. Автопилот Tesla, который полагался на радары, камеры и ультразвуковые сенсоры, работал хорошо. Поэтому идея Маска отказаться от использования лидаров — мощных, но дорогих лазерных дальнометров, которые применяются в решениях большинства конкурентов, казалась оправданной.

Впервые представленный в октябре 2015 года, автопилот мгновенно стал хитом среди владельцев Tesla, которые оценили его способность контролировать транспортное средство на шоссе с минимальным вмешательством водителя.

Они были настолько взбудоражены, что Элон Маск быстро пообещал ограничить возможность управления автомобилем без помощи рук, чтобы снизить количество людей, «которые будут делать безумные вещи».

Однако эти ограничения не сработали в случае Джошуа Брауна. В мае 2016 года 40-летний владелец Tesla Model S активировал автопилот на междугородней трассе во Флориде. Система не смогла распознать поворачивавший налево грузовик, поскольку его белый прицеп выделялся недостаточно контрастно на фоне дневного неба.

В результате Tesla залетела под прицеп, а Браун погиб на месте. Согласно реконструкции, проведенной Национальным управлением по безопасности дорожного движения (NHTSA), у Брауна было семь секунд, чтобы заметить грузовик и избежать столкновения. Соответственно, он не следил за дорогой.

Пресса стала нападать на Tesla, однако по мнению Национального управления, компания была невиновна в ДТП. Согласно итогам расследования, автопилот не может справляться с ситуацией, когда путь транспортного средства перегораживает препятствие, и требует «постоянного и полного внимания водителя».

Смена поставщика

Однако несчастный случай все же имел последствия для Tesla. Израильская компания Mobileye, которая разрабатывала камеры и программное обеспечение для автопилота, разорвала соглашение с Tesla из-за опасений по поводу безопасности.

Технологический директор компании сообщил информационному агентству Reuters, что Tesla «вышла за рамки безопасности. Автопилот не предназначен для того, чтобы реагировать на все возможные аварийные ситуации и предотвращать их». По словам представителей Tesla, сотрудничество прекратилось по коммерческим причинам.

В октябре 2016 года Маск представил замену компонентам Mobileye — новый автопилот с более мощным компьютером, обращенным к носовой части радаром, дюжиной ультразвуковых сенсоров и программным обеспечением, разработанным в самой Tesla.

Планировалось, что с ноября 2016 года аппаратная часть системы будет устанавливаться на все новые автомобили Tesla, а программное обеспечение будет обучаться за счет данных, поступающих от каждой машины, и быстро станет автономным. Такую функцию Tesla назвала «теневым режимом» — каждый новый автомобиль пересылает данные с сенсоров с помощью встроенного беспроводного соединения вне зависимости от того, платил владелец за автопилот, или нет.

«До того как активировать функцию, мы будем настраивать систему, используя данные о миллионах миль, пройденных в условиях реального мира. Так мы обеспечим безопасность и удобство технологии», — писал Элон Маск.

Новый автопилот был активирован в январе 2017 года, поддерживая только некоторые функции и только на определенных скоростях. После этого инженеры Tesla смогли получать еще больше данных, что помогло им обнаружить и устранить некоторые ошибки. Но даже понимая, что новая версия получилась более ограниченной, владельцы Tesla уверены, что у нее гораздо меньше возможностей, чем у прежней системы от Mobileye.

«Когда я запустил Autosteer в первый раз, машина начала рыскать в поисках полосы. Было немного страшно. С тех пор ситуация улучшилась: система справляется с изгибами трассы и огибает участки, где ведутся дорожные работы. Но каждый раз, когда я двигаюсь по крайней правой полосе и приближаюсь к съезду с шоссе, автопилот думает, что я планирую съехать. А мне приходится вмешиваться и корректировать курс», — рассказывает владелец Tesla Model S Стив Хирн.

Обновления системы

Некоторые странности системы настолько распространены, что получили свои собственные прозвища. Например, «страсть к большегрузам» — когда при обгоне 18-колесных грузовиков на шоссе нос Tesla начинает раскачиваться из стороны в сторону, или «пляска на полосе» — когда автомобиль пытается перестроиться в правый ряд, а его пиктограмма на дисплее приборной панели начинает «вихлять» из стороны в сторону.

«Такое происходит постоянно. Недавно я остановился на светофоре перед Линкольн-авеню в Чикаго. Это четырехкилометровый отрезок трассы, прямой, как стрела. Однако на приборной панели высветился плавный поворот налево, затем прямой участок, а затем — холмистый», — рассказывает владелец производственной компании из Чикаго Джон Ларсон.

По словам Tesla, сейчас автопилот находится в «фазе бета-тестирования». Компания признает, что его поведение может отличаться от первоначальной версии. Водителям требуется согласиться с отказом компании от ответственности, который ограничивает ситуации, в которых можно использовать автопилот, и рекомендует «не терять бдительность». Например — постоянно держать руки на руле.

Чтобы получить привилегию поучаствовать в бета-тесте, водителю необходимо заплатить $5-10 тысяч долларов за активацию автопилота. Сумма зависит от того, какие именно функции он предпочтет активировать.

Поскольку Tesla проводит обновления системы через мобильную связь, некоторые вещи стали лучше. Например, теперь водители могут использовать Autosteer на большем количестве дорог и на более высоких скоростях. А функция круиз-контроля с учетом других участников дорожного движения стала более надежной.

«Система стала реже ни с того ни с сего нажимать на тормоз. Но она по-прежнему пытается съехать с шоссе, или не может вписаться в поворот на проселочных дорогах. Тогда мне приходится выкручивать руль настолько резко, что автопилот отключается. Машина как будто сама напрашивается на ДТП», — рассказывает Ларсон.

Какие ошибки возникают из-за недостаточного тестирования системы, а какие — в результате ее конструкционных особенностей — вопрос открытый. «Когда у вас много данных — это невероятно мощный ресурс. Но программное обеспечение — также очень важный и очень сложный аспект. Зачастую алгоритмический элемент невозможно улучшить с помощью большого количества данных — это процесс кропотливых разработок», — уверен глава компании-производителя систем для самоуправляемых автомобилей NuTonomy Карл Иагнемма.

Отвечая на вопросы о специфических проблемах, обнаруженных владельцами машин, представители Tesla отметили, что у компании уникальная и продуманная система валидации, и что компания «пристально следит за обратной связью от пользователей».

В конце февраля 2017 года Элон Маск заявил, что «где-то в марте» новый автопилот сравнится по мощности со своей предыдущей версией, и начиная с этого времени «вещи будут только улучшаться».

Но чтобы достигнуть полной автономности, которая сможет справляться с редкими, но опасными ситуациями, как в случае Джошуа Брауна, Tesla предстоит выполнить много работы.

Уровни автономности

Даже если компания устранит все ошибки, по оценкам сообщества инженеров в области автоматизации нынешний автопилот Tesla является системой второго уровня — он хоть способен перестраиваться из ряда в ряд, ускоряться и тормозить, но все равно полагается на бдительность водителя и его оценку безопасности ситуации.

Расстояние между системой второго и четвертого уровня, когда ИИ транспортного средства может реагировать на все дорожные ситуации и предотвращать ДТП (что пригодится Tesla в путешествии от побережья к побережью) — огромно.

Недавно Tesla представила видео, показав самоуправляемый автомобиль. Однако компания не уточнила, сколько миль он проехал. Единственная доступная информация гласит, что программа компании по-прежнему находится в ранней стадии. Согласно законам штата Калифорния, тестирующие автономные транспортные средства компании на государственных дорогах должны ежегодно докладывать о количестве пройденных миль, а также о сопутствующих проблемах.

В 2015 году Tesla заявила об отсутствии тестов, а в 2016 году — о том, что ее автомобили проехали только 550 миль. При этом водитель был вынужден вмешиваться 182 раза. Для сравнения, компания Alphabet Waymo, которая разрабатывает свое собственное автономное транспортное средство, заявила о том, что ее автомобиль в 2016 году проехал 635 тысяч миль, при этом водитель вмешивался в процесс 124 раза.

Когда я спросил водителей о том, по-прежнему ли они используют функцию автопилота, все они ответили утвердительно. Ответ Ларсона был предсказуемым: хотя система несовершенна, он использует ее для более удобного движения в пробках. Но ответы Хирена и Мунди меня удивили.

«Я использую круиз-контроль так часто, как могу. Поскольку система регистрирует и отправляет данные, я надеюсь, что это поможет компании быстрее внести улучшения», — пояснил Хирен. С ним согласился Мунди, однако добавил: «Я включаю автопилот и еду как на иголках, надеясь, что переживу поездку».