Будущее беспилотников: мифы и этический выбор

Что реальность, а что миф о беспилотном транспорте, и когда беспилотники, наконец, поедут.

В закладки
Заезды беспилотных автомобилей. Технологический конкурс "Зимний город" Артем Ганжа, Платформа НТИ

Продолжение. Начало здесь.

Миф 1. Tesla - это беспилотник

Проблема многих современных разработок – особенно таких раскрученных, как автомобили Tesla, – состоит в том, что отличить хайп от реальности зачастую способны только специалисты. Попросите неспециалиста назвать компанию-производителя беспилотников, и вам скорее всего ответят: "Tesla". Но, строго говоря, автомобили Tesla совсем не беспилотники, поскольку соответствуют второму уровню автоматизации. Сегодня в мире нет ни одного настоящего беспилотника – автомобиля пятого уровня автоматизации, которому для вождения не нужен человек. Совсем.

Платформа НТИ

Миф 2. За рулем беспилотника не надо сидеть человеку

Момент, когда человеку не надо будет находиться в салоне автомобиля с высоким уровнем автоматизации, в том числе грузового, наступит нескоро. К примеру, даже в кабине поезда метро, который с технической точки зрения довольно давно считается беспилотными, все равно остается человек, его задача – следить за безопасностью и контролировать процесс. Одна из компаний – мировых лидеров в сфере беспилотников опубликовала релиз, согласно которому в среднем их операторы во время движения по городу вмешиваются в работу беспилотника один раз в три минуты. Это очень много. И нет ни одного примера, когда оператор не вмешивается в работу ИИ автомобиля хотя бы на 1%. Поэтому без оператора массово беспилотники в ближайшее десятилетие не поедут.

Миф 3. В России беспилотниками занимается только Яндекс

В нашей стране есть как минимум пять компаний, которые на серьезном уровне занимаются беспилотниками и технологиями для автономного транспорта. Они работают в разных сегментах и практически не конкурируют друг с другом. Это легковые и грузовые беспилотники, компьютерное зрение, сельскохозяйственная и тяжелая техника. Самые крупные игроки – Яндекс и КамАЗ. В последнее время активно развивается компания StarLine (Санкт-Петербург), именно ее беспилотник – единственный, добравшийся до финиша на технологическом конкурсе «Зимний город». Машина преодолела 50 км в условиях русской зимы менее чем за три часа. Помимо компании из Санкт-Петербурга, в конкурсе участвовали еще четыре команды: две – из Москвы (МАДИ и BaseTracK) и по одной – из Таганрога (Авто-РТК) и Нижнего Новгорода (НГТУ). Все они претендовали на пятый уровень автоматизации своих беспилотников. Сегодня на рынке беспилотников стартап пока еще может стать если не единорогом, то точно компанией с миллиардной капитализацией, если сумеет найти свою нишу.

Миф 4. Беспилотники не заменят обычные автомобили

Водители смогут выбирать между полностью автономными и обычными машинами. Вполне вероятно, что с развитием инфраструктуры и массовым внедрением беспилотников водителям запретят выезжать на дороги общего пользования. Причина – люди будут ставить под угрозу безопасность дорожного движения. В итоге с обычными автомобилями произойдет то же, что в начале XX века произошло с лошадьми. Вождение превратится в хобби и будет разрешено только на автодромах. Автолюбителям придется выезжать на специально отведенные для этого площадки, как сегодня любителям лошадей – на ипподромы.

Миф 5. Вот-вот создадут крутую технологию, и мы все поедем на беспилотниках

Кажется, совсем скоро человечество создаст ту самую технологию, которая навсегда изменит нашу жизнь. Беспилотники массово выйдут на дороги, таксисты станут никому не нужны, аварий на дорогах не будет, и пробок тоже. Это весьма распространенные представления, родившиеся во многом благодаря компаниям из Кремниевой долины. Но не все так просто. Придется преодолеть технологические барьеры: беспилотный автомобиль – это сложная инфраструктурная история. Чтобы он полноценно поехал, необходимо, например, модернизировать дорожную сеть, чтобы беспилотные автомобили могли передвигаться в полностью автономном режиме в районах городов с более интенсивным трафиком, поэтапно приближаясь к решению самой сложной задачи - работе в полностью автономном режиме в час пик в крупных мегаполисах. Предстоит также решить правовые вопросы, вопросы ответственности и собственности. И, наконец, неразрешимые на сегодняшний день этические вопросы.

Новая этика, или человек vs беспилотник

Развитие технологий ставит человечество перед пока что неразрешимыми этическими вопросами и правовыми вопросами.

Кто понесет ответственность в ДТП с беспилотником: компания-производитель, компания-разработчик ПО или владелец?

Если же ответственность будет распределяться между ними, как установить правильную пропорцию?

Существующие нормы предполагают гражданско-правовую ответственность владельца автомобиля, поскольку автомобиль является источником повышенной опасности, если только не удастся доказать умысел (по сути, прямую вину) другого лица в наступлении ДТП, рассказывает советник практики интеллектуальной собственности и информационных технологий в «Томашевская и партнеры» Роман Янковский.

Впоследствии водитель сможет предъявить иск к производителю, однако тот будет отвечать только в силу очевидных дефектов. Владелец же софта не отвечает практически никак, ограждая себя отказом от ответственности в лицензионном договоре. Эти правила применяются и к частично автономным, и к полностью автономным транспортным средствам.

Роман Янковский
советник практики интеллектуальной собственности и информационных технологий в «Томашевская и партнёры»

В качестве одного из вариантов решения проблемы предлагается страхование ответственности беспилотного транспорта, или введение посредника в отношения между владельцем и беспилотным автомобилем: например, создание специального фонда, пополняемого с продаж беспилотников. Есть также варианты установки в машины специальных устройств для фиксации действий водителя и определения пропорций распределения выплат в рамках возмещения ущерба.

Уголовно-правовая ответственность действует несколько иначе. «Здесь в случае причинения вреда полностью автономным беспилотником его владелец, очевидно, не будет виновен в произошедшем. В таком случае вина будет определяться в соответствии с правилами разработки и эксплуатации беспилотников: если эти правила не были нарушены, смерть будет признана несчастным случаем и ответственность не наступит, если были виновным будет признан нарушитель. Весь вопрос в том, как будут сформулированы правила», – отметил Янковский.

Компании также могут участвовать в возмещении ущерба, даже если формально их беспилотники не виновны в ДТП, считает советник руководителя рабочей группы рынка НТИ Автонет Евгений Белянко.

В случае, если пешеход будет переходить дорогу в неположенном месте, а транспортное средство с высокой степенью автоматизации не успеет вовремя затормозить, даже соблюдая скоростной режим, тем самым причинив вред пешеходу, то ответственность будет нести виновник ДТП. Однако, учитывая моральные и этические нормы вопроса, компания-разработчик вправе выделить компенсацию и пойти на определенные уступки, даже если она ни в чем не виновата. Это лишь улучшит ее имидж в обществе.

Евгений Белянко
советник руководителя рабочей группы рынка НТИ Автонет

В случае же, если транспортное средство является частично автономным, то на водителя уже будет распространяться вина в наступивших последствиях. Например, если частично автономный автомобиль собьет пешехода, переходившего дорогу по правилам. «Теоретически при очевидной программной ошибке возможно привлечь к ответственности разработчиков, но пока таких прецедентов не было», – пояснил Янковский.

Муки выбора. Что делать, если жертв не избежать?

Какое решение будет правильным, если в аварии погибнут люди? Кого должен спасать беспилотник? Водителя или пешехода? Или любой ценой минимизировать количество жертв? От того, как эти вопросы будут решаться на уровне государств, компаний-автопроизводителей и от реакции общества на неизбежные аварии, зависит, насколько быстро и массово беспилотники появятся на дорогах общего пользования. «Законодатель должен обязать производителей "программировать" в беспилотном транспорте этические законы, как решать моральные дилеммы: сбить одного человека, но нарушить правила дорожного движения или сбить 5 человек, но ехать по правилам и заданному маршруту; в случае, если избежать столкновения невозможно: сбить взрослого человека или ребенка», – считает Елена Ирискина.

Полагаем, что в уголовном кодексе появится новый состав преступления "Причинение смерти вследствие использования робота", поскольку беспилотный автомобиль является частным случаем автономных роботов.

Елена Ирискина
директор по правовым вопросам компании «Элекард Девайсез», эксперт по вопросами искусственного интеллекта и права (Томский государственный университет)

Перед дилеммой встают и автопроизводители, которые помимо этических вопросов должны решать конкретные бизнес-задачи. Купите ли вы беспилотный автомобиль, который в случае чего пожертвует вами и спасет пешехода? Пойдете ли вы через дорогу с беспилотниками, которые в случае опасности будут спасать не вас?

Готово ли общество к возможным авариям с человеческими жертвами по вине роботов? Очень спорный вопрос. Люди будут гибнуть и под колесами беспилотных автомобилей – как решить проблему психологической и социальной готовности, еще никто в мире не знает.

Сергей Назаренко
главный конструктор инновационных автомобилей, КамАЗ

Некоторые компании «зашивают» в мозги автомобиля безусловное сохранение жизни водителю. Mercedes-Benz программирует свои беспилотные автомобили таким образом, чтобы они в любой ситуации защищали бы тех, кто технически находится внутри автомобиля, а не снаружи. Жизнь пассажира важнее, даже если на кону стоят несколько жизней других участников движения.

Пока найти этически неопровержимый ответ на вопросы, связанные с ответственностью, не удалось никому. Поэтому в практической плоскости они решаются на уровне автопроизводителей. Каждым – по-своему.

Когда же беспилотники массово выйдут на дорогу? Мнения экспертов

Сергей Назаренко, главный конструктор инновационных автомобилей, КамАЗ:

«Думаю, что этот порог будет преодолен к 2027-2030 году. Технически автопроизводители будут готовы к массовому выпуску беспилотных автомобилей. Технически, конструктивно, с точки зрения алгоритмов, распознавания, дублирования систем ­– все эти вопросы будут производителями решены. Будут ли к этому моменту решены все остальные вопросы? Готово ли будет общество к внедрению беспилотных автомобилей ­– неизвестно».

Борис Иванов, руководитель проекта «Беспилотный автомобиль StarLine»:

«Через 5-7 лет, если мы говорим о дорогах общего пользования. Сегодня беспилотники способны уверенно работать в достаточно хорошо предсказуемых условиях, которыми не являются мегаполисы. Требуется доработка алгоритмов предсказания поведения других участников дорожного движения, создание цифровых моделей дорог, многостороннее и глубокое тестирование».

Артем Фокин, директор по развитию бизнеса беспилотных автомобилей, Яндекс:

«По мере развития технологии беспилотные автомобили смогут передвигаться в полностью автономном режиме в районах городов с более интенсивным трафиком, поэтапно приближаясь к решению самой сложной задачи – работе в полностью автономном режиме в час пик в крупных мегаполисах. По нашим расчетам, эта задача будет решена в течение ближайших 3-5 лет. Внедрение беспилотных технологий в повседневную жизнь – постепенный процесс, который требует развития не только технологий, но и регулирования».

Юрий Молодых, директор по развитию технологических конкурсов Up Great РВК:

«Пройдет очень долгий период, прежде чем беспилотники будут внедрены либо в ограниченных зонах, либо с дополнительным водителем. Постепенно это будет происходить. Думаю, что полный цикл внедрения, когда у нас есть автомобиль, который проходит все испытания на полигоне, и момент, когда по улице едет сто автомобилей и за рулем только одного из них сидит человек, – это десятки лет».

Материал опубликован пользователем.
Нажмите кнопку «Написать», чтобы поделиться мнением или рассказать о своём проекте.

Написать
{ "author_name": "NTI Platform", "author_type": "self", "tags": [], "comments": 17, "likes": -2, "favorites": 9, "is_advertisement": false, "subsite_label": "transport", "id": 99093, "is_wide": false, "is_ugc": true, "date": "Thu, 26 Dec 2019 16:34:59 +0300", "is_special": false }
Создать объявление на vc.ru
Сервисы
Куда уходят клиенты конструкторов сайтов
Чаще всего мигрируют с Wix на Tilda, клиенты «Платформы LP» переходят на Creatium, а «Битрикс 24» и Tilda обмениваются…
0
{ "id": 99093, "author_id": 416901, "diff_limit": 1000, "urls": {"diff":"\/comments\/99093\/get","add":"\/comments\/99093\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/99093"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199115, "last_count_and_date": null }
17 комментариев
Популярные
По порядку
Написать комментарий...
2

Когда приводят такой аргумент, что "В итоге с обычными автомобилями произойдет то же, что в начале XX века произошло с лошадьми.", то забывают, что машины, заменив лошадей, остались ИНДИВИДУАЛЬНЫМ средством передвижения. Управлял по прежнему сам человек, что лошадью, что автомобилем.

Полностью беспилотные автомобили по логике превращаются в новую форму общественного транспорта. Если автомобиль сам подъедет к дому, ты выйдешь, сядешь и он повезет тебя, например, на работу, то чем, он собственно отличается от такси? Если и отличается, то только тем, что его где-то рядом с работой нужно еще парковать, а такси – нет. 

Многие почему-то забывают, что в человеческой природе, стремление к индивидуализму очень важный аспект. Поэтому история с беспилотным транспортом должна по идее быть прежде всего востребована в коммерческим перевозках – грузовых и пассажирских (такси и автобусы). Хотя многие, кто сейчас владеет автомобилем, безусловно, откажутся от него в пользу более доступного персонального формата "нового общественного транспорта".

Ответить
1

Хотя многие, кто сейчас владеет автомобилем, безусловно, откажутся от него в пользу более доступного персонального формата "нового общественного транспорта".

c первой частью согласен абсолютно (про индивидуализм), а вот с этой (без осознанного влияния извне) - не очень. 

Хотя всё зависит от "цены вопроса" - если персональные авто будут целенаправленно и жёстко выдавливать поборами на парковку, налогами, акцизами и прочими гос. требованиями, то всё возможно.

Ответить
2

Скоро самым крутым бизнесом будет : найти свой маленький остров и жить там без всех этих чудо технологий , доводящих людей до психозов , нервных срывов и просто всасывающих жизненную энергию .

Ответить
1

А мне вот одному только не понятно, с чего вдруг ведущие технологические компании вбухивают деньги в беспилотные транспортные технологии? 

Это реальная проблема, стоящая перед человечеством и на которой можно сумасшедшие деньги заработать?
Цимес-то в чем - отказаться от водителей в коммерческих перевозках, и на этом сэкономить (такси, грузовые перевозки), и всё? или еще какой-то есть тайный смысл?
А почему, например, не в образование или здравоохранение? В этом больше экономического смысла, ИМХО.
И если говорить про беспилотный транспорт, как обыватель, лично я вряд ли откажусь самостоятельно водить машину, пока физические кондиции позволяют. 

Ответить
3

Все как обычно. Если не знаешь в чем дело, значит дело в деньгах ;) как гласит старая хер знает чья пословица.

Под шумок безопасности и сохранения «миллионов жизней» открывается возможность переоткрыть рынок, который уже сверх-заполнен. У всех по несколько автомобилей (в штатах по крайней мере) и как сказал недавно один из немецких автобосов - «я еще никогда не видел так много на дорогах поддержанных автомобилей». А тут получается можно создать спрос на новый цикл производства автомобилей. И «общественное мнение» и через какое-то время и законодательные изменения, все в эту сторону.

Кажется что-то похожее с электромобилями... а нет, показалось) 

Ответить
1

Может ради безопасности на дорогах все же? Потому что беспилотные автомобили не будут нарушать ПДД, и это спасет в итоге миллионы жизней. 70% аварийных ситуаций возникает по вине водителя: телефонные звонки, смс, невнимательность, усталость и пр.  Считаете, ради это не стоит вбухивать деньги?

Ответить
1

 Потому что беспилотные автомобили не будут нарушать ПДД

Тогда они не смогут ездить по дорогам. Потому что без небольших нарушений ездить невозможно. Любая нештатная ситуация приведёт к отказу в обслуживании, получится своеобразная итальянская забастовка. 

 70% аварийных ситуаций возникает по вине водителя

Цифра взята из известного справочника С. Потолка? 

Ответить
–1

Согласен. Будут нарушать, будут делать аварии,  будут давить пешеходов. Но. Но в разы реже чем люди.

70% скорее взято с потолка. 
Никак не меньше 90%. Остальное плохие условия или поломки техники. 

Ответить
0

когда автоматизация управления автомобилем дойдет хотя бы до уровня 4, я считаю, люди уже забьют пользоваться автомобилями и придут к использованию более скоростного личного транспорта. Например, личными самолётами. Где этот уровень 4 уже достигнут, кстати.

Ответить
0

С какого перепугу в авиации 4 уровень? По прямой в хорошую погоду самолёт может лететь,  а в остальном: взлёт, посадка,  выход на аэропорт,  всё делается с участием человека. 

Ответить
0

Что такое ИМХО, можете объяснить?

Ответить
0

In My Humble Opinion

Ответить
–1

А мне вот одному только не понятно, с чего вдруг ведущие технологические компании вбухивают деньги в беспилотные транспортные технологии?

Не хочу обидеть автомобилистов, но просто вождение автомобиля оказалось самым тупым занятием человека, которое смогли заменить даже примитивными нейросетями конца 80-х для распознавания картинок 😅

Ответить
0

вождение автомобиля оказалось самым тупым занятием человека,

обоснуйте?
лично я вожу сам не "из любви к искусству", а, в первую очередь, из соображений скорости доступа к средству передвижения (стоит у подъезда, не надо ждать) + безопасности  + комфорта (располагаюсь сам и вещи, как хочу и где хочу, в салоне мои запахи и моя личная грязь)

Ответить
1

Какая этика? Люди даже на бумаге не смогут сформулировать этику. 

Есть правила дорожного движения. И люди и роботы должны их соблюдать.  Никакой этики в этих правилах не прописано и никогда не будет. 
Скорее всего автопилоты будут под наблюдением/присмотром водителей несколько лет.  Когда автопилот дойдёт до такого уровня что аварий будет больше от людей чем от автопилотов то общественное мнение изменится. Уже люди будут просить запретить водить людям. Страховые компании тоже начнут брать больше денег с водителей людей а не автопилотов. Дискуссия про этику конечно сохраниться но скорее всего фокус будет на другом вопросе: запретить ли людям водить? 

Ответить
0

В Париже 14 линий метро. Из них только две - беспилотные. И пока никто не обещает, что все 14 линий станут беспилотными к 2027 году :-)  Что уж говорить про автомобили. Срок 2027 - 2030 - это утопия.  

Ответить
0

Единственный способ решить практически все перечисленные в статье проблемы - исключить пересечение транспортных потоков с людьми и животными. Для этого нужно поднять транспорт на другой уровень,  исключив таким образом 99% аварийных ситуаций. И всё это реализовано в транспортной системе SkyWay, которая уже выходит на мировой рынок.

Ответить
{ "page_type": "article" }

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "Article Branding", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cfovx", "p2": "glug" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Баннер в ленте на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "disable": true, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } }, { "id": 20, "label": "Кнопка в сайдбаре", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cgxmr", "p2": "gnwc" } } } ] { "page_type": "default" }