Лого vc.ru

«Мы сами мешаем распространению беспилотных машин»

«Мы сами мешаем распространению беспилотных машин»

Американский предприниматель Джон Баттель опубликовал на Medium колонку о том, почему большинство предсказаний о будущем самоуправляемых машин несостоятельны. По мнению автора, говорить о поголовном распространении беспилотных автомобилей в течение пяти лет могут только мечтатели из ИТ-сферы, незнакомые с многими моральными и социальными проблемами.

Редакция vc.ru публикует адаптированный перевод заметки.

Поделиться

«Здесь в Долине мы представляем, что технологии, которые мы создаём, оказываются свободны от различных социальных осложнений. У нас очень хорошо получается фантазировать и представлять себе мир победивших инноваций, но не менее хороши мы и в игнорировании всех сложностей, связанных с распространением тех или иных изобретений», — пишет Джон Баттель.

Последний пример — самоуправляемые автомобили и их будущее.

«В Долине считается, что беспилотные машины уже здесь — осталось только подождать несколько лет, пока более медлительные штаты вроде Вашингтона наконец запустят аналогичные программы», — продолжает автор заметки.

По его словам, жители Кремниевой долины уверены, что в течение пяти лет все машины в Соединенных Штатах окажутся самоуправляемыми, а пассажиры вместо вождения смогут заниматься рабочими задачами, обмениваться снимками в Snapchat или разбирать электронную почту.

«Есть только одна проблема: этого никогда не случится. Во всяком случае, точно не случится в течение ближайших пяти лет. И помешаем распространению самоуправляемых автомобилей мы сами», — объясняет Баттель.

Автор замечает, что уже сейчас технология работает на высоком уровне, и в будущем разработчики будут её только совершенствовать. Но сами беспилотные машины поднимают множество важных моральных и социальных вопросов — и чтобы найти на них ответы, человечеству понадобится гораздо больше времени. К тому же не факт, что все согласятся с предложенным решением, даже когда оно будет найдено.

Вероятнее всего, каждый народ установит в итоге свои собственные правила — а это значит, что по всему миру они будут варьироваться.

В основе потенциальных разногласий, полагает Баттель, лежит так называемая «проблема вагонетки». «Этот мысленный эксперимент предполагает, что не совершив определённое действие, вы не сможете помешать смерти нескольких людей, однако совершив его, фактически толкнёте на смерть нескольких других людей».

До недавнего времени эта проблема выступала в качестве философской дилеммы, пока не стала реальной задачей, которую предстоит решить разработчикам самоуправляемых машин, говорит предприниматель.

«Сейчас ответственность за действия автомобиля полностью лежит на водителе. Вы врезались в толпу школьников, потому что зачитались SMS? Это ваша вина. Выехали на встречную полосу, будучи пьяным? В тюрьму отправят вас (если, конечно, вы выживете). Беспилотные автомобили снимают ответственность с водителя, перекладывая её на алгоритмы», — объясняет автор заметки.

Представьте такую версию «проблемы вагонетки»: вы едете по дороге, и вдруг на полосу выскакивают дети, играющие в Pokemon Go. У вас есть три варианта: уклониться влево и выехать на встречную полосу (возможно, расставшись с жизнью), свернуть направо и упасть в реку (смерть также почти неизбежна) или ехать дальше — так вы спасете себя, но собьёте детей.

«Что делать? Думаю, если бы за рулём были вы сами, вы бы сделали всё, чтобы оставить детей в живых — в конце концов, это же дети. Однако разработчики из Mercedes-Benz поступили по-другому: машина поедет в толпу детей. Создатели системы автономного вождения для этого производителя решили, что жизнь пассажира важнее жизни пешехода», — рассказывает Баттель.

По мнению предпринимателя, таким образом автопроизводитель защищает свой бренд: «Mercedes уже более 100 лет обеспечивает безопасность и привелегии для своих клиентов. И ПО, разработанное в компании, ставит безопасность пассажира выше остальных. Ну и давайте будем честны друг с другом: кто стал бы приобретать беспилотную машину, которая может решить убить пассажира? Легко представить, что и другие компании последуют примеру Mercedes».

«Что мы получаем? Армию самоуправляемых машин-убийц, которые ставят своих пассажиров выше общественного блага. Звучит надуманно, но если вы потратите немного времени и повнимательнее рассмотрите этот вариант, то станет ясно, что на разработку систем беспилотного вождения придётся потратить гораздо больше времени».

Это грязная и трудная работа. Нам придётся переосмыслить подход к строительству дорог, понять, нужны ли нам защитные ограждения, какие автомобили смогут передвигаться вблизи пешеходов и как именно они будут это делать, проработать инфраструктуру городов.

Человечеству придётся полностью переосмыслить само дорожное движение, продолжает Джон Баттель. «Это дело не пяти лет — а как минимум одного поколения. Кроме того, разработка новой системы требует вовлечения правительства, а оно не работает так, как Кремниевая долина. Реальный мир намного грязнее и хуже, чем то, что мы нафантазировали в своём технологическом мирке».

«Когда мы думаем о самоуправляемых автомобилях, то представляем, что водителя заменил искусственный интеллект, а всё остальное — дороги, правила движения и так далее, — осталось прежним, пусть и немного усовершенствованным. Не думаю, что такое видение имеет право на жизнь», — заключает Баттель.

Статьи по теме
Транспортные капсулы, новые применения гаражам и восход автогонок17 октября 2016, 19:32
Третья транспортная революция: как изменятся города с появлением самоуправляемых машин в ближайшие 5–10 лет26 сентября 2016, 18:32
«Ваш самоуправляемый Uber уже в пути»: подготовка сервиса, принцип работы и впечатления первых пассажиров14 сентября 2016, 17:51
99 перемен: как самоуправляемые машины изменят города в ближайшие несколько десятков лет08 сентября 2016, 19:31
— интеллектуальный партнёр рубрики «Будущее»
Популярные статьи
Показать еще
Комментарии отсортированы
как обычно по времени по популярности

Volvo например не только о себе думает. Подушка безопасности для пешеходов, дети могут спокойно ловить покемонов на дороге :)

Жаль только от удара решеткой радиатора эта подушка особо не защитит

У меня почти горит от "проблемы вагонетки", сколько её можно обмусоливать? Вам самим не тошнота от формулировки "машины-убийцы"?
"Дети выбежали на дорогу, кого убить?" Что за философы, оторванные от реальности выдумывали эту "диллему"? Уже есть ПДД, написанные кровью. Не от баллы, а кровью. И убивать нужно тех, кто их нарушил. А автопилот не может их нарушить по-умолчанию.

+1. Вся статья про то, что "этого никогда не случится, потому что ... проблема вагонетки! Ну может не никогда, но точно не скоро. А может скоро, но не завтра"

Некоторые и из-за котенка на дороге в столб въезжают.
Вообще без превышения скорости и с кучей датчиков количество жертв сократится в разы. Только боюсь пешеходы станут наглее :)

Ну перед мерсами никто выскакивать не решится на дорогу.

>> А автопилот не может их нарушить по-умолчанию.
В теории - не может. На практике - очень даже. Просто из-за несовершенства реализации.
Вспомните "шикарную" прошивку электронной педали в тойотах.
Software Development'у уже овердохера лет, но от человеческого фактора вряд ли что-то спасет.

0

Решение давно уже придумано, только его не озвучивают пока, чтобы у водятлов не бомбило. Как только сделаю нормального робо-водилу и отладят режим робо-дорожного движения, законодатели просто запретят садиться обывателям за руль.

Издадут закон - всем водятлам в недельный срок заехать на тачке в сервис где болгаркой выпилят педали и руль и установят на ведро с болтами робота. Руль оставят только спецслужбистам и автогонщикам. И настанет на дорогах благодать.

Ага, и выпилят целый сегмент премиальных спортивных автомобилей.

Для гонщиков любителей будут треки. Спортивный автомобиль на дороге общего пользования изначально спорная вещь. Из пятидесяти человек в мире один умирает от дтп.

0

В России (и не только) есть места, где машины ездят, а дорог нет ;) Автопилот не решает всех проблем.

0

В России всё сложнее, да. На Западе обязанности дальнобойщика - это не заснуть, держать машину ровно по полосе, ехать по навигатору и иногда заправляться. В России же им надо решать ещё кучу нестандартных проблем: договариваться с гаишниками, кое-где и с бандитами, с коллегами, чтобы вытащили застрявшую фуру и наоборот, искать объезды через временный мост и др.

автопилот появится только тогда, когда будет везде нормальная разметка и связь со спутнегом.

0

Это всё необязательно. Обязательно только, чтобы камеры работали. Человеческая нейронка же справляется с вождением, и искусственная справится не хуже.

Не, не справится. ИИ это только симуляция (притом херовая) ЧМ, ибо хз как он вообще работает этот ЧМ.

У Теслы 1 смерть в ДТП за 4 года. У человека 1,300,000 в год. И кто тут херово водит?

Мне даже стыдно, что я и сам бионейронка.

Сколько тесл всего выпущено?
Подсказка 12,420 штук. Сколько машин не тесла?

Справедливый вопрос! Всего машин в мире 1.2 млрд.
Шансы умереть в Тесле: 0.00002
Шансы умереть в обычной машине: 0.001, в 50 раз больше.

0

Вы как-то очень странно считаете. В тесле помер водятел, а вы сравниваете со статистикой по пешеходам.

Если пешеходов сравнивать, то вообще надо на ноль делить, Тесла бесконечно лучше (пока что).

0

Величины кстати несопоставимые, рассчеты в пределах стат погрешности.

0

Плюс еще косяк: далеко не все владельцы Теслы много пользуются автопилотом, а многие, небось, просто включили на часок для вау-эффекта, а в остальное время ручками рулят.
Надо учитывать кол-во часов, которые ехал именно автопилот.

Станет очень актуален вариант разборок, когда "клиента" бросают под машину:) а затем спокойо идут и делают свои дела. Виноват всеравно Mersedes:)

0

Почему никто не учитывает такой вариант - машина быстрее человека просчитывает маневр и может развернуть автомобиль для удара о столб или стену багажником? Т.е. исходить из императива сохранения всех жизней за счет машины? Более того, если я правильно понимаю, то приближающихся детей локаторы обнаружат зело раньше, чем человек.
Мне кажется, что проблема вагонетки сильно надумана.

Или еще забавнее. Хакер взломал вашу машину и машина сбила людей или устроила ДТП. Вопрос, как вы докажите, что вы не вы, а она сама?Я бы прежде чем гнаться за полностью автономными системами, сначала приучил людей, отработал технологии, на помощниках водителю, где-то подрулить, где-то притормозить, на скучном участке дороге позволить водителю чуть-чуть расслабиться. В этом случае можно подготовить и инфраструктуру и системы обкатать и людей научить. Но нет, мы хотим сразу автопилот, да чтобы умный и нравственный, а то понимаешь человекам нужно срочно снепчатик просмотреть и почту разобрать.

0

Странно, что никто не предложил такого интересного решения как частные дороги. Ответственность ложится на того, кто недостаточно заботился о безопасности.
А там уж рыночек порешает.

0

Сразу видно по комментам, как подгорает у айтишников из-за предположения, что их "идеальный" автоматический мир не наступит в ближайшие лет 100 (в России никогда).

0

Нет у человека времени решать морально-этические проблемы когда на дорогу выскакивает ребенок. Срабатывает исключительно мышечный опыт. Если справа выскочит - попадешь на встречку, слева - в кювет, слишком быстро - задавишь детей.

0

Возможность комментирования статьи доступна только в первые две недели после публикации.

Сейчас обсуждают
Александр Родионов

И все чтобы впихнуть рекламу

«ВКонтакте» закроет публичный доступ к аудиозаписям для сторонних приложений
0
Neko Natum

Круто, чё. Уничтожить любые попытки сделать раздел удобным (поиск по альбомам, скробблинг и т.п.) и заставить пользоваться тем инвалидом, что у них сейчас в клиенте.

«ВКонтакте» закроет публичный доступ к аудиозаписям для сторонних приложений
1
Vyacheslav Zolotov

Я могу сделать бота.

Где искать разработчиков для создания Facebook-бота
0
Михаил Коренев

тюрьмы в 21 веке, безусловно, стали комфортабельнее, светлее и просторнее. Но принцип остался тот же: тебя снабжают необходимыми благами, а ты покорно отбываешь там свой срок, создавая некий продукт в присутствии надзирателя.

Штаб-квартира: Гамбургский офис сервиса для отзывов Yelp
0
Stas Bozhko

Думал сначала, что очередные объявления, но то что проверка есть и уклон на технику apple - очень классно, сам бы пользовался для покупки, но продавал бы на всех сайтах

DamProdam — сайт покупки-продажи подержанной техники
0
Показать еще