«Мы сами мешаем распространению беспилотных машин» Статьи редакции

Почему в ближайшие годы самоуправляемые автомобили останутся фантазиями Долины

Американский предприниматель Джон Баттель опубликовал на Medium колонку о том, почему большинство предсказаний о будущем самоуправляемых машин несостоятельны. По мнению автора, говорить о поголовном распространении беспилотных автомобилей в течение пяти лет могут только мечтатели из ИТ-сферы, незнакомые с многими моральными и социальными проблемами.

Редакция vc.ru публикует адаптированный перевод заметки.

«Здесь в Долине мы представляем, что технологии, которые мы создаём, оказываются свободны от различных социальных осложнений. У нас очень хорошо получается фантазировать и представлять себе мир победивших инноваций, но не менее хороши мы и в игнорировании всех сложностей, связанных с распространением тех или иных изобретений», — пишет Джон Баттель.

Последний пример — самоуправляемые автомобили и их будущее.

«В Долине считается, что беспилотные машины уже здесь — осталось только подождать несколько лет, пока более медлительные штаты вроде Вашингтона наконец запустят аналогичные программы», — продолжает автор заметки.

По его словам, жители Кремниевой долины уверены, что в течение пяти лет все машины в Соединенных Штатах окажутся самоуправляемыми, а пассажиры вместо вождения смогут заниматься рабочими задачами, обмениваться снимками в Snapchat или разбирать электронную почту.

«Есть только одна проблема: этого никогда не случится. Во всяком случае, точно не случится в течение ближайших пяти лет. И помешаем распространению самоуправляемых автомобилей мы сами», — объясняет Баттель.

Автор замечает, что уже сейчас технология работает на высоком уровне, и в будущем разработчики будут её только совершенствовать. Но сами беспилотные машины поднимают множество важных моральных и социальных вопросов — и чтобы найти на них ответы, человечеству понадобится гораздо больше времени. К тому же не факт, что все согласятся с предложенным решением, даже когда оно будет найдено.

Вероятнее всего, каждый народ установит в итоге свои собственные правила — а это значит, что по всему миру они будут варьироваться.

В основе потенциальных разногласий, полагает Баттель, лежит так называемая «проблема вагонетки». «Этот мысленный эксперимент предполагает, что не совершив определённое действие, вы не сможете помешать смерти нескольких людей, однако совершив его, фактически толкнёте на смерть нескольких других людей».

До недавнего времени эта проблема выступала в качестве философской дилеммы, пока не стала реальной задачей, которую предстоит решить разработчикам самоуправляемых машин, говорит предприниматель.

«Сейчас ответственность за действия автомобиля полностью лежит на водителе. Вы врезались в толпу школьников, потому что зачитались SMS? Это ваша вина. Выехали на встречную полосу, будучи пьяным? В тюрьму отправят вас (если, конечно, вы выживете). Беспилотные автомобили снимают ответственность с водителя, перекладывая её на алгоритмы», — объясняет автор заметки.

Представьте такую версию «проблемы вагонетки»: вы едете по дороге, и вдруг на полосу выскакивают дети, играющие в Pokemon Go. У вас есть три варианта: уклониться влево и выехать на встречную полосу (возможно, расставшись с жизнью), свернуть направо и упасть в реку (смерть также почти неизбежна) или ехать дальше — так вы спасете себя, но собьёте детей.

«Что делать? Думаю, если бы за рулём были вы сами, вы бы сделали всё, чтобы оставить детей в живых — в конце концов, это же дети. Однако разработчики из Mercedes-Benz поступили по-другому: машина поедет в толпу детей. Создатели системы автономного вождения для этого производителя решили, что жизнь пассажира важнее жизни пешехода», — рассказывает Баттель.

По мнению предпринимателя, таким образом автопроизводитель защищает свой бренд: «Mercedes уже более 100 лет обеспечивает безопасность и привелегии для своих клиентов. И ПО, разработанное в компании, ставит безопасность пассажира выше остальных. Ну и давайте будем честны друг с другом: кто стал бы приобретать беспилотную машину, которая может решить убить пассажира? Легко представить, что и другие компании последуют примеру Mercedes».

«Что мы получаем? Армию самоуправляемых машин-убийц, которые ставят своих пассажиров выше общественного блага. Звучит надуманно, но если вы потратите немного времени и повнимательнее рассмотрите этот вариант, то станет ясно, что на разработку систем беспилотного вождения придётся потратить гораздо больше времени».

Это грязная и трудная работа. Нам придётся переосмыслить подход к строительству дорог, понять, нужны ли нам защитные ограждения, какие автомобили смогут передвигаться вблизи пешеходов и как именно они будут это делать, проработать инфраструктуру городов.

Человечеству придётся полностью переосмыслить само дорожное движение, продолжает Джон Баттель. «Это дело не пяти лет — а как минимум одного поколения. Кроме того, разработка новой системы требует вовлечения правительства, а оно не работает так, как Кремниевая долина. Реальный мир намного грязнее и хуже, чем то, что мы нафантазировали в своём технологическом мирке».

«Когда мы думаем о самоуправляемых автомобилях, то представляем, что водителя заменил искусственный интеллект, а всё остальное — дороги, правила движения и так далее, — осталось прежним, пусть и немного усовершенствованным. Не думаю, что такое видение имеет право на жизнь», — заключает Баттель.

{ "author_name": "Дарья Хохлова", "author_type": "editor", "tags": ["\u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435_\u0431\u0435\u0441\u043f\u0438\u043b\u043e\u0442\u043d\u044b\u0445_\u0430\u0432\u0442\u043e\u043c\u043e\u0431\u0438\u043b\u0435\u0439","\u0441\u0430\u043c\u043e\u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u043c\u044b\u0439_\u0430\u0432\u0442\u043e\u043c\u043e\u0431\u0438\u043b\u044c","\u0441\u0430\u043c\u043e\u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u043c\u044b\u0435_\u0430\u0432\u0442\u043e\u043c\u043e\u0431\u0438\u043b\u0438","\u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439_\u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442","\u0434\u043e\u0440\u043e\u0433\u0438","\u0431\u0443\u0434\u0443\u0449\u0435\u0435_\u0443\u0436\u0435_\u0437\u0434\u0435\u0441\u044c","\u0431\u0443\u0434\u0443\u0449\u0435\u0435","\u0431\u0435\u0441\u043f\u0438\u043b\u043e\u0442\u043d\u044b\u0439_\u0430\u0432\u0442\u043e\u043c\u043e\u0431\u0438\u043b\u044c"], "comments": 29, "likes": 13, "favorites": 1, "is_advertisement": false, "subsite_label": "future", "id": 19421, "is_wide": true, "is_ugc": false, "date": "Mon, 24 Oct 2016 12:17:06 +0300", "is_special": false }
0
29 комментариев
Популярные
По порядку
Написать комментарий...

У меня почти горит от "проблемы вагонетки", сколько её можно обмусоливать? Вам самим не тошнота от формулировки "машины-убийцы"?
"Дети выбежали на дорогу, кого убить?" Что за философы, оторванные от реальности выдумывали эту "диллему"? Уже есть ПДД, написанные кровью. Не от баллы, а кровью. И убивать нужно тех, кто их нарушил. А автопилот не может их нарушить по-умолчанию.

15

Некоторые и из-за котенка на дороге в столб въезжают.
Вообще без превышения скорости и с кучей датчиков количество жертв сократится в разы. Только боюсь пешеходы станут наглее :)

4

Ну перед мерсами никто выскакивать не решится на дорогу.

3

+1. Вся статья про то, что "этого никогда не случится, потому что ... проблема вагонетки! Ну может не никогда, но точно не скоро. А может скоро, но не завтра"

3

> А автопилот не может их нарушить по-умолчанию.

В теории - не может. На практике - очень даже. Просто из-за несовершенства реализации.
Вспомните "шикарную" прошивку электронной педали в тойотах.
Software Development'у уже овердохера лет, но от человеческого фактора вряд ли что-то спасет.

0

Volvo например не только о себе думает. Подушка безопасности для пешеходов, дети могут спокойно ловить покемонов на дороге :)

5

Жаль только от удара решеткой радиатора эта подушка особо не защитит

1

Почему никто не учитывает такой вариант - машина быстрее человека просчитывает маневр и может развернуть автомобиль для удара о столб или стену багажником? Т.е. исходить из императива сохранения всех жизней за счет машины? Более того, если я правильно понимаю, то приближающихся детей локаторы обнаружат зело раньше, чем человек.
Мне кажется, что проблема вагонетки сильно надумана.

4

автопилот появится только тогда, когда будет везде нормальная разметка и связь со спутнегом.

0

Это всё необязательно. Обязательно только, чтобы камеры работали. Человеческая нейронка же справляется с вождением, и искусственная справится не хуже.

3

Не, не справится. ИИ это только симуляция (притом херовая) ЧМ, ибо хз как он вообще работает этот ЧМ.

4

У Теслы 1 смерть в ДТП за 4 года. У человека 1,300,000 в год. И кто тут херово водит?

Мне даже стыдно, что я и сам бионейронка.

0

Сколько тесл всего выпущено?
Подсказка 12,420 штук. Сколько машин не тесла?

3

Справедливый вопрос! Всего машин в мире 1.2 млрд.
Шансы умереть в Тесле: 0.00002
Шансы умереть в обычной машине: 0.001, в 50 раз больше.

0

Вы как-то очень странно считаете. В тесле помер водятел, а вы сравниваете со статистикой по пешеходам.

2

Если пешеходов сравнивать, то вообще надо на ноль делить, Тесла бесконечно лучше (пока что).

0

Плюс еще косяк: далеко не все владельцы Теслы много пользуются автопилотом, а многие, небось, просто включили на часок для вау-эффекта, а в остальное время ручками рулят.
Надо учитывать кол-во часов, которые ехал именно автопилот.

2

Величины кстати несопоставимые, рассчеты в пределах стат погрешности.

0

Решение давно уже придумано, только его не озвучивают пока, чтобы у водятлов не бомбило. Как только сделаю нормального робо-водилу и отладят режим робо-дорожного движения, законодатели просто запретят садиться обывателям за руль.

Издадут закон - всем водятлам в недельный срок заехать на тачке в сервис где болгаркой выпилят педали и руль и установят на ведро с болтами робота. Руль оставят только спецслужбистам и автогонщикам. И настанет на дорогах благодать.

–3

Ага, и выпилят целый сегмент премиальных спортивных автомобилей.

1

Для гонщиков любителей будут треки. Спортивный автомобиль на дороге общего пользования изначально спорная вещь. Из пятидесяти человек в мире один умирает от дтп.

0

о бред то...

1

В России (и не только) есть места, где машины ездят, а дорог нет ;) Автопилот не решает всех проблем.

0

В России всё сложнее, да. На Западе обязанности дальнобойщика - это не заснуть, держать машину ровно по полосе, ехать по навигатору и иногда заправляться. В России же им надо решать ещё кучу нестандартных проблем: договариваться с гаишниками, кое-где и с бандитами, с коллегами, чтобы вытащили застрявшую фуру и наоборот, искать объезды через временный мост и др.

1

Станет очень актуален вариант разборок, когда "клиента" бросают под машину:) а затем спокойо идут и делают свои дела. Виноват всеравно Mersedes:)

0

Или еще забавнее. Хакер взломал вашу машину и машина сбила людей или устроила ДТП. Вопрос, как вы докажите, что вы не вы, а она сама?Я бы прежде чем гнаться за полностью автономными системами, сначала приучил людей, отработал технологии, на помощниках водителю, где-то подрулить, где-то притормозить, на скучном участке дороге позволить водителю чуть-чуть расслабиться. В этом случае можно подготовить и инфраструктуру и системы обкатать и людей научить. Но нет, мы хотим сразу автопилот, да чтобы умный и нравственный, а то понимаешь человекам нужно срочно снепчатик просмотреть и почту разобрать.

0

Странно, что никто не предложил такого интересного решения как частные дороги. Ответственность ложится на того, кто недостаточно заботился о безопасности.

А там уж рыночек порешает.

0

Сразу видно по комментам, как подгорает у айтишников из-за предположения, что их "идеальный" автоматический мир не наступит в ближайшие лет 100 (в России никогда).

0

Нет у человека времени решать морально-этические проблемы когда на дорогу выскакивает ребенок. Срабатывает исключительно мышечный опыт. Если справа выскочит - попадешь на встречку, слева - в кювет, слишком быстро - задавишь детей.

0
Читать все 29 комментариев
Детство на антибиотиках: как медицинский догматизм чуть меня не угробил, но, в итоге, подарил дело моей жизни

Часто, когда говорят или пишут о великих, упоминают, что еще в детстве они столкнулись с какой-то проблемой, решили спасти от нее весь мир и так стали тем, кем стали. С великими себя не сравниваю, но для меня такие биографии – свидетельство того, что если человеку нужно, он добьется всего, что захочет. У меня тоже есть подобная история за…

Как OTUS стал платформой для самореализации. История преподавателя

Наш преподаватель, специалист по Data Science, решил поделиться своей историей преподавания. Он рассказал, как пришел в эту сферу, с какими трудностями столкнулся на пути к преподаванию и что ему помогает. А еще поделился советами, как поддерживать внимание студентов и сделать занятия полезными и увлекательными.

«Мы будем закрывать пиццерии, которые плохо работают»: Фёдор Овчинников упрекнул партнёров в отсутствии требовательности Статьи редакции

Dodo Brands нужно «действовать бескомпромиссно в вопросах качества», а партнёрам — понять, что владение пиццериями — «сложная задача», считает основатель.

ПСБ запустил личный кабинет для предпринимателей. Там можно следить онлайн за каждым своим терминалом

Сервис предоставляется бесплатно.

7 причин начать пользоваться Bright Data Proxy Manager:
Строит магазины без окон, чтобы люди теряли счёт времени и думали о покупках: как IKEA заставляет тратить больше Статьи редакции

Ежегодные продажи компании достигают $50 млрд, большая часть которых приходится на незапланированные покупки посетителей, рассказал журналист The Hustle Трунг Фан.

Покупательница магазина Campaignasia
Cloud CDN: что это такое, как устроено и кому нужно. Разбираем на примере бургеров

Cloud CDN — это сеть быстрой доставки статического контента в формате услуги облачного провайдера. Объяснить, как работает технология, проще всего на примере — сравнить Cloud CDN с популярным продуктом, который выглядит плюс-минус одинаково вне зависимости от того, заказали вы его в Москве, Питере или Нью-Йорке. Знакомьтесь: классический бургер.…

Geforce Now. Очереди более 30 минут, лаги и тормоза на платном тарифе

GeForce Now Russia не выдерживает никакой критики как платный сервис. При стоимости 999р/месяц вы получаете очереди из таких же "счастливчиков", постоянные лаги видео и аудиопотоков и неадекватно высокую нагрузку десктопного приложения при запуске игры.

Как не попасть в карьерную ловушку тимлида: личный опыт

Кажется, что тимлиду просто некуда расти: дальше надо либо идти в менеджмент, либо наоборот, становиться узконаправленным разработчиком. По просьбе «Лаборатории Касперского» Евгений Мацюк, который прошел в компании неординарный путь, рассказал о своих карьерных развилках во время и после тимлидства, а также поделился опытом горизонтального роста.

Госдеп США рекомендовал россиянам подавать документы на американскую иммиграционную визу в Варшаве Статьи редакции

Неиммиграционные визы можно подавать в любых посольствах и консульствах США.

Мне было скучно осваивать четвёртый иностранный язык и я создала CrossLingo — кроссворды для изучения английских слов

Привет! Меня зовут Екатерина и у меня есть три страсти: программирование, изучение языков и головоломки. Однажды я решила их объединить и так возникло CrossLingo — приложение для изучения иностранных слов по кроссвордам. Оно умеет генерировать англо-русские кроссворды на лету по заданным уровням и темам.

null