Будущее беспилотников: мифы и этический выбор
Что реальность, а что миф о беспилотном транспорте, и когда беспилотники, наконец, поедут.
Продолжение. Начало здесь.
Проблема многих современных разработок – особенно таких раскрученных, как автомобили Tesla, – состоит в том, что отличить хайп от реальности зачастую способны только специалисты. Попросите неспециалиста назвать компанию-производителя беспилотников, и вам скорее всего ответят: "Tesla". Но, строго говоря, автомобили Tesla совсем не беспилотники, поскольку соответствуют второму уровню автоматизации. Сегодня в мире нет ни одного настоящего беспилотника – автомобиля пятого уровня автоматизации, которому для вождения не нужен человек. Совсем.
Момент, когда человеку не надо будет находиться в салоне автомобиля с высоким уровнем автоматизации, в том числе грузового, наступит нескоро. К примеру, даже в кабине поезда метро, который с технической точки зрения довольно давно считается беспилотными, все равно остается человек, его задача – следить за безопасностью и контролировать процесс. Одна из компаний – мировых лидеров в сфере беспилотников опубликовала релиз, согласно которому в среднем их операторы во время движения по городу вмешиваются в работу беспилотника один раз в три минуты. Это очень много. И нет ни одного примера, когда оператор не вмешивается в работу ИИ автомобиля хотя бы на 1%. Поэтому без оператора массово беспилотники в ближайшее десятилетие не поедут.
В нашей стране есть как минимум пять компаний, которые на серьезном уровне занимаются беспилотниками и технологиями для автономного транспорта. Они работают в разных сегментах и практически не конкурируют друг с другом. Это легковые и грузовые беспилотники, компьютерное зрение, сельскохозяйственная и тяжелая техника. Самые крупные игроки – Яндекс и КамАЗ. В последнее время активно развивается компания StarLine (Санкт-Петербург), именно ее беспилотник – единственный, добравшийся до финиша на технологическом конкурсе «Зимний город». Машина преодолела 50 км в условиях русской зимы менее чем за три часа. Помимо компании из Санкт-Петербурга, в конкурсе участвовали еще четыре команды: две – из Москвы (МАДИ и BaseTracK) и по одной – из Таганрога (Авто-РТК) и Нижнего Новгорода (НГТУ). Все они претендовали на пятый уровень автоматизации своих беспилотников. Сегодня на рынке беспилотников стартап пока еще может стать если не единорогом, то точно компанией с миллиардной капитализацией, если сумеет найти свою нишу.
Водители смогут выбирать между полностью автономными и обычными машинами. Вполне вероятно, что с развитием инфраструктуры и массовым внедрением беспилотников водителям запретят выезжать на дороги общего пользования. Причина – люди будут ставить под угрозу безопасность дорожного движения. В итоге с обычными автомобилями произойдет то же, что в начале XX века произошло с лошадьми. Вождение превратится в хобби и будет разрешено только на автодромах. Автолюбителям придется выезжать на специально отведенные для этого площадки, как сегодня любителям лошадей – на ипподромы.
Кажется, совсем скоро человечество создаст ту самую технологию, которая навсегда изменит нашу жизнь. Беспилотники массово выйдут на дороги, таксисты станут никому не нужны, аварий на дорогах не будет, и пробок тоже. Это весьма распространенные представления, родившиеся во многом благодаря компаниям из Кремниевой долины. Но не все так просто. Придется преодолеть технологические барьеры: беспилотный автомобиль – это сложная инфраструктурная история. Чтобы он полноценно поехал, необходимо, например, модернизировать дорожную сеть, чтобы беспилотные автомобили могли передвигаться в полностью автономном режиме в районах городов с более интенсивным трафиком, поэтапно приближаясь к решению самой сложной задачи - работе в полностью автономном режиме в час пик в крупных мегаполисах. Предстоит также решить правовые вопросы, вопросы ответственности и собственности. И, наконец, неразрешимые на сегодняшний день этические вопросы.
Новая этика, или человек vs беспилотник
Развитие технологий ставит человечество перед пока что неразрешимыми этическими вопросами и правовыми вопросами.
Кто понесет ответственность в ДТП с беспилотником: компания-производитель, компания-разработчик ПО или владелец?
Если же ответственность будет распределяться между ними, как установить правильную пропорцию?
Существующие нормы предполагают гражданско-правовую ответственность владельца автомобиля, поскольку автомобиль является источником повышенной опасности, если только не удастся доказать умысел (по сути, прямую вину) другого лица в наступлении ДТП, рассказывает советник практики интеллектуальной собственности и информационных технологий в «Томашевская и партнеры» Роман Янковский.
В качестве одного из вариантов решения проблемы предлагается страхование ответственности беспилотного транспорта, или введение посредника в отношения между владельцем и беспилотным автомобилем: например, создание специального фонда, пополняемого с продаж беспилотников. Есть также варианты установки в машины специальных устройств для фиксации действий водителя и определения пропорций распределения выплат в рамках возмещения ущерба.
Уголовно-правовая ответственность действует несколько иначе. «Здесь в случае причинения вреда полностью автономным беспилотником его владелец, очевидно, не будет виновен в произошедшем. В таком случае вина будет определяться в соответствии с правилами разработки и эксплуатации беспилотников: если эти правила не были нарушены, смерть будет признана несчастным случаем и ответственность не наступит, если были виновным будет признан нарушитель. Весь вопрос в том, как будут сформулированы правила», – отметил Янковский.
Компании также могут участвовать в возмещении ущерба, даже если формально их беспилотники не виновны в ДТП, считает советник руководителя рабочей группы рынка НТИ Автонет Евгений Белянко.
В случае же, если транспортное средство является частично автономным, то на водителя уже будет распространяться вина в наступивших последствиях. Например, если частично автономный автомобиль собьет пешехода, переходившего дорогу по правилам. «Теоретически при очевидной программной ошибке возможно привлечь к ответственности разработчиков, но пока таких прецедентов не было», – пояснил Янковский.
Муки выбора. Что делать, если жертв не избежать?
Какое решение будет правильным, если в аварии погибнут люди? Кого должен спасать беспилотник? Водителя или пешехода? Или любой ценой минимизировать количество жертв? От того, как эти вопросы будут решаться на уровне государств, компаний-автопроизводителей и от реакции общества на неизбежные аварии, зависит, насколько быстро и массово беспилотники появятся на дорогах общего пользования. «Законодатель должен обязать производителей "программировать" в беспилотном транспорте этические законы, как решать моральные дилеммы: сбить одного человека, но нарушить правила дорожного движения или сбить 5 человек, но ехать по правилам и заданному маршруту; в случае, если избежать столкновения невозможно: сбить взрослого человека или ребенка», – считает Елена Ирискина.
Перед дилеммой встают и автопроизводители, которые помимо этических вопросов должны решать конкретные бизнес-задачи. Купите ли вы беспилотный автомобиль, который в случае чего пожертвует вами и спасет пешехода? Пойдете ли вы через дорогу с беспилотниками, которые в случае опасности будут спасать не вас?
Некоторые компании «зашивают» в мозги автомобиля безусловное сохранение жизни водителю. Mercedes-Benz программирует свои беспилотные автомобили таким образом, чтобы они в любой ситуации защищали бы тех, кто технически находится внутри автомобиля, а не снаружи. Жизнь пассажира важнее, даже если на кону стоят несколько жизней других участников движения.
Пока найти этически неопровержимый ответ на вопросы, связанные с ответственностью, не удалось никому. Поэтому в практической плоскости они решаются на уровне автопроизводителей. Каждым – по-своему.
Когда же беспилотники массово выйдут на дорогу? Мнения экспертов
Сергей Назаренко, главный конструктор инновационных автомобилей, КамАЗ:
«Думаю, что этот порог будет преодолен к 2027-2030 году. Технически автопроизводители будут готовы к массовому выпуску беспилотных автомобилей. Технически, конструктивно, с точки зрения алгоритмов, распознавания, дублирования систем – все эти вопросы будут производителями решены. Будут ли к этому моменту решены все остальные вопросы? Готово ли будет общество к внедрению беспилотных автомобилей – неизвестно».
Борис Иванов, руководитель проекта «Беспилотный автомобиль StarLine»:
«Через 5-7 лет, если мы говорим о дорогах общего пользования. Сегодня беспилотники способны уверенно работать в достаточно хорошо предсказуемых условиях, которыми не являются мегаполисы. Требуется доработка алгоритмов предсказания поведения других участников дорожного движения, создание цифровых моделей дорог, многостороннее и глубокое тестирование».
Артем Фокин, директор по развитию бизнеса беспилотных автомобилей, Яндекс:
«По мере развития технологии беспилотные автомобили смогут передвигаться в полностью автономном режиме в районах городов с более интенсивным трафиком, поэтапно приближаясь к решению самой сложной задачи – работе в полностью автономном режиме в час пик в крупных мегаполисах. По нашим расчетам, эта задача будет решена в течение ближайших 3-5 лет. Внедрение беспилотных технологий в повседневную жизнь – постепенный процесс, который требует развития не только технологий, но и регулирования».
Юрий Молодых, директор по развитию технологических конкурсов Up Great РВК:
«Пройдет очень долгий период, прежде чем беспилотники будут внедрены либо в ограниченных зонах, либо с дополнительным водителем. Постепенно это будет происходить. Думаю, что полный цикл внедрения, когда у нас есть автомобиль, который проходит все испытания на полигоне, и момент, когда по улице едет сто автомобилей и за рулем только одного из них сидит человек, – это десятки лет».
Когда приводят такой аргумент, что "В итоге с обычными автомобилями произойдет то же, что в начале XX века произошло с лошадьми.", то забывают, что машины, заменив лошадей, остались ИНДИВИДУАЛЬНЫМ средством передвижения. Управлял по прежнему сам человек, что лошадью, что автомобилем.
Полностью беспилотные автомобили по логике превращаются в новую форму общественного транспорта. Если автомобиль сам подъедет к дому, ты выйдешь, сядешь и он повезет тебя, например, на работу, то чем, он собственно отличается от такси? Если и отличается, то только тем, что его где-то рядом с работой нужно еще парковать, а такси – нет.
Многие почему-то забывают, что в человеческой природе, стремление к индивидуализму очень важный аспект. Поэтому история с беспилотным транспортом должна по идее быть прежде всего востребована в коммерческим перевозках – грузовых и пассажирских (такси и автобусы). Хотя многие, кто сейчас владеет автомобилем, безусловно, откажутся от него в пользу более доступного персонального формата "нового общественного транспорта".
c первой частью согласен абсолютно (про индивидуализм), а вот с этой (без осознанного влияния извне) - не очень.
Хотя всё зависит от "цены вопроса" - если персональные авто будут целенаправленно и жёстко выдавливать поборами на парковку, налогами, акцизами и прочими гос. требованиями, то всё возможно.
А мне вот одному только не понятно, с чего вдруг ведущие технологические компании вбухивают деньги в беспилотные транспортные технологии?
Это реальная проблема, стоящая перед человечеством и на которой можно сумасшедшие деньги заработать?
Цимес-то в чем - отказаться от водителей в коммерческих перевозках, и на этом сэкономить (такси, грузовые перевозки), и всё? или еще какой-то есть тайный смысл?
А почему, например, не в образование или здравоохранение? В этом больше экономического смысла, ИМХО.
И если говорить про беспилотный транспорт, как обыватель, лично я вряд ли откажусь самостоятельно водить машину, пока физические кондиции позволяют.
Все как обычно. Если не знаешь в чем дело, значит дело в деньгах ;) как гласит старая хер знает чья пословица.
Под шумок безопасности и сохранения «миллионов жизней» открывается возможность переоткрыть рынок, который уже сверх-заполнен. У всех по несколько автомобилей (в штатах по крайней мере) и как сказал недавно один из немецких автобосов - «я еще никогда не видел так много на дорогах поддержанных автомобилей». А тут получается можно создать спрос на новый цикл производства автомобилей. И «общественное мнение» и через какое-то время и законодательные изменения, все в эту сторону.
Кажется что-то похожее с электромобилями... а нет, показалось)
Может ради безопасности на дорогах все же? Потому что беспилотные автомобили не будут нарушать ПДД, и это спасет в итоге миллионы жизней. 70% аварийных ситуаций возникает по вине водителя: телефонные звонки, смс, невнимательность, усталость и пр. Считаете, ради это не стоит вбухивать деньги?
Тогда они не смогут ездить по дорогам. Потому что без небольших нарушений ездить невозможно. Любая нештатная ситуация приведёт к отказу в обслуживании, получится своеобразная итальянская забастовка.
70% аварийных ситуаций возникает по вине водителяЦифра взята из известного справочника С. Потолка?
Согласен. Будут нарушать, будут делать аварии, будут давить пешеходов. Но. Но в разы реже чем люди.
70% скорее взято с потолка.
Никак не меньше 90%. Остальное плохие условия или поломки техники.
когда автоматизация управления автомобилем дойдет хотя бы до уровня 4, я считаю, люди уже забьют пользоваться автомобилями и придут к использованию более скоростного личного транспорта. Например, личными самолётами. Где этот уровень 4 уже достигнут, кстати.
С какого перепугу в авиации 4 уровень? По прямой в хорошую погоду самолёт может лететь, а в остальном: взлёт, посадка, выход на аэропорт, всё делается с участием человека.
Что такое ИМХО, можете объяснить?
In My Humble Opinion
Они людей исключают из тех процесса.Глоболизация,сатанизм,уменьшение популяции
Не хочу обидеть автомобилистов, но просто вождение автомобиля оказалось самым тупым занятием человека, которое смогли заменить даже примитивными нейросетями конца 80-х для распознавания картинок 😅
обоснуйте?
лично я вожу сам не "из любви к искусству", а, в первую очередь, из соображений скорости доступа к средству передвижения (стоит у подъезда, не надо ждать) + безопасности + комфорта (располагаюсь сам и вещи, как хочу и где хочу, в салоне мои запахи и моя личная грязь)
Скоро самым крутым бизнесом будет : найти свой маленький остров и жить там без всех этих чудо технологий , доводящих людей до психозов , нервных срывов и просто всасывающих жизненную энергию .
Какая этика? Люди даже на бумаге не смогут сформулировать этику.
Есть правила дорожного движения. И люди и роботы должны их соблюдать. Никакой этики в этих правилах не прописано и никогда не будет.
Скорее всего автопилоты будут под наблюдением/присмотром водителей несколько лет. Когда автопилот дойдёт до такого уровня что аварий будет больше от людей чем от автопилотов то общественное мнение изменится. Уже люди будут просить запретить водить людям. Страховые компании тоже начнут брать больше денег с водителей людей а не автопилотов. Дискуссия про этику конечно сохраниться но скорее всего фокус будет на другом вопросе: запретить ли людям водить?
В Париже 14 линий метро. Из них только две - беспилотные. И пока никто не обещает, что все 14 линий станут беспилотными к 2027 году :-) Что уж говорить про автомобили. Срок 2027 - 2030 - это утопия.
Единственный способ решить практически все перечисленные в статье проблемы - исключить пересечение транспортных потоков с людьми и животными. Для этого нужно поднять транспорт на другой уровень, исключив таким образом 99% аварийных ситуаций. И всё это реализовано в транспортной системе SkyWay, которая уже выходит на мировой рынок.