За и против: безопасно ли выводить тестируемые беспилотники на общие дороги

И что важнее для производителей — надёжность или рост экономики.

В последнее время, наверное, только лежащие в глубокой коме не слышали ни одной новости о беспилотных автомобилях. Окружающий эту тему хайп можно сравнить разве что с недавними страстями по временно почившему биткоину.

Совсем недавно интерес к теме вновь был подогрет после печального события. В Темпе (штат Аризона) 18 марта 2018 года произошло смертельное ДТП с участием робомобиля Uber и велосипедистки, неожиданно выскочившей перед авто из темноты. Формально это — вторая авария с летальным исходом при участии автопилота.

Однако в первой аварии, произошедшей весной прошлого года во Флориде, погиб владелец Tesla Model S, оборудованной беспилотником. Ни водитель, ни система не заметили на фоне яркого неба светлую фуру, внезапно выехавшую на дорогу.

В Аризоне же впервые сам автомобиль, оборудованный тестируемой беспилотной системой, стал причиной смерти фактически пешехода (женщина переходила дорогу, ведя велосипед по «зебре»).

Полиция признала, что вины компании, равно как и вины оператора, присутствовавшего в машине, но не управлявшего ею, нет. Так это или не так, каждый может решить для себя сам, посмотрев видео. Тем не менее губернатор Аризоны приостановил все испытания подобного рода на территории штата.

Однако по-прежнему нет сообщений о том, что земля обетованная всех инноваций мира — солнечная Калифорния отказалась от своих намерений. Как известно, начиная с апреля, тестирование самоуправляемых автомобилей в этом штате можно будет проводить без присутствия за рулём водителя.

Департамент автотранспорта Калифорнии (DMV) предложил изменить правила таким образом, чтобы управление в случае отказа системы автономного вождения или её ненадлежащей работы осуществлялось за счёт связи автомобиля с удалённым оператором.

Обязанность таких операторов-водителей — следить за тестированием нескольких автомобилей и по необходимости брать на себя управление. Если же автопроизводитель захочет приблизить свои транспортные средства к боевым условиям, то есть убрать рулевое колесо и педаль тормозов, то ему необходимо будет получить разрешение Национального управления безопасностью движения на трассах.

В этом случае компании обязаны сообщать о расположении предполагаемого тестирования местным властям, предоставляя им также перечень возможных отказов системы автономного вождения и схему поддержания связи корпоративного представителя с правоохранителями.

Сообщалось, что со 2 апреля 2018 года компаниям будут выдаваться разрешения на проведение испытаний робомобилей по новым правилам. Это часть компаний из тех 50, которые, согласно веб-сайту DMV, имеют разрешение на тестирование своих автомобилей в Калифорнии. Правда, среди них уже не будет Uber, который после аризонского инцидента на время полностью отказался от тестирования своих беспилотников где бы то ни было.

Интересно, что с 1 марта 2018 года общественность штата уже получила возможность дать оценку новым правилам. И вот тут вскрылось, что, по заявлениям тех же калифорнийских властей, каждое третье ДТП с участием беспилотников происходит по вине пешеходов, которые сами бросаются под проезжающий автомобиль.

Эксперты комментируют это явление стремлением людей узнать, как его величество искусственный интеллект отреагирует на неадекватную реакцию человека. За весь прошлый год 27 ДТП на дорогах Калифорнии произошло по вине вот таких естествоиспытателей.

И это при наличии за рулём живого водителя, который был призван подстраховать беспилотник в случае аварийной ситуации. Чего же ждать от робомобиля, где оператор будет заточён отдельно от своего питомца, и скорость реакции будет цинично нивелироваться скоростью прохождения сигнала (о возможном зависании системы даже думать не хочется).

Конечно, люди — странные существа. Они любят прыгать в поисках лошадиных доз адреналина в пропасть, надевая на себя костюм белки-летяги. Или кормить хищников и других забавных зверюшек практически с рук прямо под запрещающими надписями.

Возможно, машина, обвешанная датчиками, и производит впечатление добродушной панды, ковыляющей по знойным дорогам Западного побережья. Но ведь во многом и сами компании, работающие сейчас в сфере автомотива, пытаются поддерживать эту иллюзию безопасности и беззаботности, во имя маркетинга преувеличивая свои, прямо скажем, пока ещё скромные достижения.

Подумаешь, вместо второго уровня автономности заявили сразу четвёртый (а это практически полный автопилот). Зато конкуренты злостно сжали ягодицы и тут же напрягли инвесторов на новый раунд. Значит, мы своим спонсорам выкатываем ещё большие суммы. И скачи вперёд, мой баблокар.

Если вы думаете, что это всё шуточки и ненужное зубоскальство, то я вас разочарую. Сегодня аналитики даже не могут дать более-менее точные суммы вложений в индустрию наземных беспилотников. По одной простой причине — данные колеблются от десятков до сотен миллиардов долларов. По данным PwC только за третий квартал 2017 года динамика роста инвестиций в сектор беспилотных технологий для автомобилей составила рекордные 51%.

Спору нет, существуют на свете отрасли, где подобная маркетинговая шустрость испытана годами, вполне себя оправдывает и потому — must have. Но много ли вы слышали в интернете о безрецептурной продаже всем желающим какого-нибудь суперлекарства от всех болезней, изобретённого пару месяцев назад и с неоднозначными результатами протестированного изобретателем на своей тёще и соседях?

Сложившаяся десятилетиями процедура вывода такой продукции на рынки содержит установленные длительные сроки испытаний, жёсткие стандарты и регламенты. Потому что всем очевидна их важность для жизни и здоровья людей, причём здоровья не только персонального, но и общего социально-психологического, определяющего климат взаимного доверия и адекватной оценки общественной безопасности.

Рынок автономных транспортных систем совсем молодой и только вступает в стадию своего формирования. На нём пока жёстко не зафиксированы правила игры. Конечно, молодые и горячие стартапы ещё могут перепутать желаемое с действительным.

Но ведь большинство из тех, кто на данном рынке работает уже больше двух-трёх лет, должны понимать, что подобная гонка за деньгами, подкрепляемая в основном бодрыми роликами в YouTube, формирует абсолютно ложные ожидания у всех — начиная от широкой общественности и заканчивая многострадальными инвесторами.

Прекрасную иллюстрацию вышесказанному явила недавно американская компания Phantom AI. Созданная в 2016 году, насчитывающая шесть человек штата и размещающаяся в пригородах Сан-Франциско группа объявила о создании собственного автопилота. Убедиться в этом её основатели пригласили журналистов TechCrunch.

На глазах у всей честной публики прототип, не успев тронуться, въехал в зад остановившейся впереди машины. При этом очень забавны были объяснения представителей компании, якобы у них была отключена возможность экстренного торможения из-за ложных срабатываний.

Да и вообще, этот автомобиль был лишь второго уровня ADS (Automated Driving System). И стоило им только после аварии пересесть в другую машину, конечно, уже с четвёртым уровнем ADS, как вся поездка в автономном режиме сложилась просто идеально.

Только почему-то видео уже никто не снимал, и верить разработчики предлагают им исключительно на слово. Говорят, что ещё один казус из этой же серии произошёл со стартапом Faraday Future в начале этого года прямо на выставке CES в США.

Поневоле вспомнишь здесь «Яндекс.Такси», предусмотрительно не вернувшееся во время показа президенту России Владимиру Путину.

Конечно, пронзительный стиль Андрея Колесникова всегда сообщает любому событию дополнительную абсурдинку, но факт остаётся фактом. Выходит, что возможность использовать президента страны в качестве беспроигрышного промоутера перевешивает даже профессиональные стандарты качества.

Заинтересовавшись темой, я поговорил со специалистами-технарями, а это не только математики и программисты, но и специалисты по навигации, «умным» камерам и тому подобным вещам. И вот что выяснил.

Некоторые компании, например, для организации управления в автономном режиме устанавливают на своих прототипах оборудование стоимостью сотни тысяч долларов. Да, такая машина, вероятно, сможет передвигаться без участия человека. Но нужно понимать, что в массовое производство такой агрегат в его нынешнем виде никогда не пойдёт.

И не только (и даже не столько) по ценовым параметрам. Само оборудование довольно капризно и требует постоянного обслуживания. Поездка такого беспилотника в реальных условиях — практически гарантия попасть в аварийную ситуацию.

Не всегда сможет выручить и ставка на средства навигации, использующие Глонасс или GPS. У экспертов есть подозрение, что «Яндекс.Такси» во время президентского показа могло вестись как раз на основе высокоточного позиционирования — и стоило сигналу из-за обычной заглушки (блокирования GPS-сигнала службой охраны) пропасть, как автомобиль пошёл не так, как это было задумано разработчиками.

Известно: чтобы создать производство сложной наукоёмкой продукции, тем более имеющее дело с технологиями нового уклада, к которым относится ИИ, необходимо иметь соответствующий фундамент, научную школу.

Даже небольшая история рынка беспилотных систем показывает, что для подготовки зрелого проекта его участники должны собрать десятки тысяч часов дата-сетов (набор видеоданных о дорожной ситуации), на их основе обучить свои алгоритмы, затем их протестировать, вывести прототип на полигон, отработать необходимые программы испытаний.

Для обеспечения гарантированной безопасности дорожного движения беспилотник должен пройти сотни тысяч, если не миллионы километров по всевозможным дорогам в дождь и грязь, снег и метель, по горам и степным трассам. И это не может произойти за пару лет. При этом на дорогах могут возникнуть тысячи непредсказуемых ситуаций, которые должны быть предусмотрены и смоделированы разработчиками.

В итоге получается картина, общая для всех масштабных рыночных трансформаций. Инициация автомотив-проекта с чистого листа, даже при условии многомиллионных долларовых вливаний не может дать искомого результат за какие-то год-два.

Например, один из лидеров рынка систем управления автономным движением израильская компания Mobileye занимается этой темой более 20 лет и абсолютно честно заявляла в начале года о том, что их разработки соответствуют уровню автономности 2+. Не меньшее время работает над задачами ИИ её конкурент — российская компания Cognitive Technologies, а также такие монстры, как Mercedes, BMW и Toyota.

При этом каждый разработчик беспилотников, не говоря уже об инвесторе, чётко знает, зачем он записался в пионеры отрасли. Цель №1 выпуска робомобилей в массы — это кардинальное снижение числа аварий на дорогах. Ну то есть чтобы если вдруг не дай Бог кто-то куда-то в кого-то — то просто чтобы на порядок меньше нынешних жертв ДТП.

Благодаря этой теме наземные беспилотные авто давно уже стали генерировать вопросы, далекие от техники и связанные с новой человеко-машинной этикой. Например, что через три-пять лет вообще всех таксистов уволят, и те захватят мир.

Или если перед робомобилем возникают на пути одновременно ребёнок, старушка и кошечка — кого всё-таки стоит задавить. Конечно, правильный ответ на последний вопрос — никого, потому что «умная» нейронная сеть за доли секунды до появления объектов предугадает их появление и что-то придумает.

Но жизнь подсказывает: лишняя эйфория, беспечность, равно как экспоненциальное нагнетание страхов, одним словом, стремление поставить рекламу с маркетингом впереди, так сказать, лошадиных сил, уже сейчас формируют нездоровую, почти луддистскую реакцию на вполне рабочую ситуацию — и это в практически райской, по слухам, Калифорнии.

Может быть, пора уже главным игрокам на дикорастущем рынке наземных беспилотников договориться об общих правилах игры и осознать размеры своей ответственности перед всеми остальными гражданами? Может быть, стоит уже направить свою рекламную энергию и маркетинговую активность в настоящие Public Relations, то есть начать наконец рассказывать общественности правду и совместно работать над всеми действительными и мнимыми страхами?

Подорвать доверие к новому, перспективному технологическому сектору и затормозить процесс его развития не только в нашей стране (к этому мы уже привыкли), а во всём мире, оказывается, всё ещё легко.

Смогут ли компании, ослеплённые жаждой лидерства на рождающемся суперрынке, достичь неких джентльменских соглашений во имя общего процветания целого сектора экономики? И можем ли мы считать допустимым, что беспилотник, обучаясь быть всё более безопасным, собирает на своем пути кровавую жатву?

Есть ли возможность обучать алгоритмы на дата-сетах иначе, чем через вывод отнюдь не безобидного транспортного средства на общие дороги в ореоле маркетинговых мифов о растущей безопасности, да ещё при запаздывающем по определению человеческом контроле?

К сожалению, очень многие события последних лет то и дело демонстрируют нам, что человек как таковой всё меньше оказывается в центре интересов технологического прогресса. А значит, целью научно-технической революции становится что-то другое. Но ведь ещё не поздно опомниться?