«Никто и близко не подошел к созданию полностью беспилотного автомобиля» — гендиректор Toyota Research Institute

Научный журнал IEEE Spectrum попросил гендиректора Toyota Research Institute Гилла Прата рассказать о подходе компании к проблеме автопилотирования. Обозреватель vc.ru выбрал главные идеи, высказанные в разговоре.​

Автомобиль, который в состоянии самостоятельно передвигаться в любых дорожных и погодных условиях — прекрасная цель, но никто в автомобильной или ИТ-сфере не подошел к ней близко. Даже если при виде автомобильной экспозиции CES или демонстрации автопилотирования верится в обратное.

Не все маршруты одинаковы. Привычные дороги просты, человек и так проезжает их «на автопилоте». Другие по-настоящему сложны, на них и нужно сосредоточиться при создании автопилота. 

Когда автопроизводитель заявляет, что его автомобиль способен самостоятельно двигаться по подробно размеченным областям, с картами — это максимум четвертый уровень, не полная автономность. 

Да и в разговоре о четвертом уровне лучше уточнять. Это набор умений от «наш автопилот умеет вести автомобиль по одной полосе в отсутствие других автомобилей», что не слишком отличается от движения поезда по рельсам, до «спокойно чувствует себя в самый час пик дождливого дня в Риме», что по-настоящему непросто.

Полный автопилот отрабатывает любые возможные сценарии, так что обязательно переспрашивайте, о чем идет речь. В ответ услышите об определенных маршрутах, времени дня, ограничениях по плотности потока и так далее. Вот почему мы даже еще не близко.

Отсюда проблема покупательских ожиданий — клиенты слышат всю эту чепуху про автопилот и не понимают, что она значит. Люди склонны выстраивать в голове картину того, насколько хорошим окажется автопилот — это особенность человеческого мышления. Мы акцентируем внимание на одних вещах, не видим, что автопилот не способен справиться с другими, одновременно переоценивая и недооценивая его.

Точка зрения Toyota подразумевает важность обучения покупателей правильному пониманию ограничений технологии автопилота. Критически важно, чтобы индустрия стремилась поставить себя на место покупателя и сказать «как мы можем быть уверены, что покупатель правильно понимает возможности автопилота и его ограничения, чтобы люди не доверяли сверх меры своему автомобилю».

Проблема излишнего доверия очень серьезна, потому что вы передаете автомобиль покупателю, и он видит, что умеет автомобиль в благоприятных условиях. Люди склонны предполагать, распространяя свой прошлый опыт на будущее. «Погода была хорошей сегодня, была хорошей вчера, значит она всегда будет хорошей». 

По мере совершенствования технологии автопилотирования вмешательство человека потребуется все реже и реже. И это обострит проблему излишних ожиданий, потому что человек сможет предположить: «Я не вмешивался сегодня, не делал этого вчера, следовательно автомобилю вообще не потребуется моя помощь».

В каком-то смысле худший из возможных вариантов — это автомобиль, который потребует вмешательства водителя раз в 200 тысяч миль. Так что обычный человек, который меняет машину каждые 100 тысяч миль, вообще не столкнется с такой ситуацией. 

Но когда по теории вероятности одна из двух моих машин пропищит «бип, бип, бип, твоя очередь», стопроцентно уверенный в автопилоте водитель, который многие годы не сталкивался с необходимостью вмешиваться, не будет готов принять управление. Мы обеспокоены этим парадоксом. Чем более совершенный автопилот имеем, тем хуже последствия переоценки его возможностей.

На недавней пресс-конференции Toyota на CES был озвучен вопрос, ответа на который у общества еще нет. Какими мерками мы должны оценивать автопилот, и насколько хорошим он должен быть?

До того, как автопилоты станут идеальными, пройдет много лет и произойдет некоторое количество аварий. Пусть правительство и все остальные, кого так или иначе касается проблема, взвесят доводы и скажут: «Ну, наверное, спасти одну жизнь — уже хорошо». Или «Мы не будем пользоваться автопилотами, пока они не станут в 10 раз лучше». Не думаю, что это задача инженеров.

С рациональной точки зрения даже 1% улучшения — это уже хорошо. Но люди не слишком рациональны: достаточно вспомнить авиакатастрофы. Самолеты — намного более безопасный способ передвижения в расчете на милю, чем любой другой. Вам вообще не стоит бояться авиакатастроф. Но они случаются, и каждый раз мы имеем раздутую реакцию людей, сами начинаем бояться. 

По уму это абсолютно бессмысленно — мы скорее разобьемся на автомобиле, нежели в самолете. Но пока авиакатастрофы обсуждают в новостях, мы продолжаем бояться не тех вещей.

Искусственный интеллект, особенно основанный на машинном обучении, не идеален. Входящая информация настолько разнообразна, что автомобиль наверняка столкнется с ситуацией, которой не был обучен, но мы рассчитываем на разумную оценку обстановки в любом случае. Ситуации, которые автопилот воспримет неверно, возможно приведут к происшествию. Что мы скажем в таком случае? Кого обвиним? Мы не знаем ответа — знаем только, что это очень важный вопрос.

Никто не сомневается, что автопилоты будут попадать в аварии, но хотя бы все обстоятельства будут записаны. В таком случае автопроизводитель сможет выкатить обновление автопилота, исключающее повторение подобной аварии.

Сможем ли мы точно понять, что привело к аварии? Сложные системы машинного обучения уже давно похожи на «черные ящики», логику принятия решения в которых не могут понять даже создатели. Toyota финансирует совместные работы с MIT в этом направлении, например проект The Car Can Explain.

Ежегодно автомобили всего мира проезжают примерно 10 триллионов миль и те миллионы тестовых миль, что устраивают автопроизводители, даже близко не покрывают возможных дорожных ситуаций. Дорожную обстановку можно эмулировать и обучать автопилоты на принципиально большем объеме данных, о чем мы говорим в рамках Trillion Mile Challenge. И это должен быть триллион миль ужасных дорожных ситуаций.

Водитель-человек — наименее предсказуемая часть дорожного движения. Этот фактор сам собой появляется на дорогах общего пользования, но его не учесть в симуляции. Человека пытались смоделировать как погоду или поток машин, но это оказалось невозможным. Взаимодействие водителей между собой слишком сложно.

Человек далеко не всегда действует оптимально и безопасно, как научить автомобиль предсказывать это, а то и вести себя аналогично? К примеру, какой скорости должен придерживаться автопилот на шоссе с ограничением 55 миль в час? 55 миль? Или ориентироваться на соседей по потоку — и на каких из них? Этот вопрос поднимается даже с юридическим департаментом и ответ не найден.

Питание и охлаждение компьютеров в современных электромобилях уже стало большей проблемой, чем может казаться со стороны. Человеческий мозг потребляет порядка 50 Вт мощности в то время, как большинство известных систем автопилотирования потребляет тысячи ватт — это огромная разница. Поскольку мы говорим о совокупном потреблении мозга, значит на само вождение у него уходит порядка 10 Вт.

Кроме того, мы не особо представляем объем вычислительной мощности, который нужен автопилоту для безопасного вождения. Допустим, мы увеличим вычислительную мощность в 10 или 100 раз, насколько более безопасным станет движение? В любом случае, необходимость получить более мощные вычислители очевидна.

Говоря о других вещах, которые требуют кардинального улучшения, упомяну датчики. Лидары — восхитительная штука, но им далеко до совершенства. Количество выдаваемой информации еще слишком мало (речь о плотности так называемого облака точек, в виде которых лидар дает информацию о пространстве, — прим. ред.), особенно на больших дальностях. Это критично, если мы хотим заранее предупредить водителя об опасности.

Датчики должны быть дешевыми, надежными и работать 10, а лучше 20 лет. Качество современных автомобильных компонентов очень высоко, хотя большинство покупателей и привыкли оценивать его низко.

Стоит помнить, что для уменьшения количества аварий и спасения множества жизней нам вообще не обязательно иметь полностью самоуправляемые автомобили, существует множество путей помочь водителю, предупредив о возникновении аварии или избежав ее. Система вообще не должна работать постоянно, пусть вмешивается в экстремальной ситуации (как это делают ABS — антиблокировочные системы тормозов, или ESP — системы стабилизации — прим. ред.)

Часто роботы хороши в том, что человеку претит — например, неотрывно следить за разметкой или автомобилем впереди. Человеку лучше удаются интуитивные решения в сложных ситуациях. Человек и машина дополняют друг друга, так почему сейчас их противопоставляют? Стоит наладить прозрачное взаимодействие человека и машины.

Чем отличается подход Toyota? В отличие от многих компаний, работающих над автопилотированием и представленных на CES, нам ничего не нужно продавать, наши машины и так прекрасно расходятся. Поэтому мы учим и задаем вопросы, ну примерно как «парни, это здорово, теперь давайте убедимся, что мы говорим об одних вещах».

Возьмем для примера классификацию автопилотов SAE из пяти уровней. Или классификацию NHTSA, которая оперирует четырьмя уровнями автономности. SAE поступила умно: они разделили на два уровня четвертый уровень автономности SAE, теперь пятый уровень — это полная автономность в любой ситуации, а 4 — только в некоторых.

Хотя путаница все равно возникает — взять второй и третий уровни. Ключевая особенность третьего уровня в том, что человеку не нужно контролировать автопилот, за машиной не нужно присматривать.

Если человек не может вмешаться, всегда должен быть запасной план — обычно машина сама встает посреди дороги, потому что не знает, что ей делать. SAE считает, что машина должна уметь съехать с дороги, но куда она денется с хайвэя или из тоннеля? Есть мысль, что в таком случае машина должна передавать управление удаленному водителю, который находится в специальном центре. Но для этого как минимум нужен интернет (без хакеров и проблем с доступом). А сотрудник колл-центра должен быть всегда наготове внезапно принять на себя управление, в чем люди не слишком хороши. Идея хорошая, но и здесь мы далеки от результата.

#Авто