Будущее беспилотников: мифы и этический выбор

Что реальность, а что миф о беспилотном транспорте, и когда беспилотники, наконец, поедут.

Продолжение. Начало здесь.

Проблема многих современных разработок – особенно таких раскрученных, как автомобили Tesla, – состоит в том, что отличить хайп от реальности зачастую способны только специалисты. Попросите неспециалиста назвать компанию-производителя беспилотников, и вам скорее всего ответят: "Tesla". Но, строго говоря, автомобили Tesla совсем не беспилотники, поскольку соответствуют второму уровню автоматизации. Сегодня в мире нет ни одного настоящего беспилотника – автомобиля пятого уровня автоматизации, которому для вождения не нужен человек. Совсем.

Момент, когда человеку не надо будет находиться в салоне автомобиля с высоким уровнем автоматизации, в том числе грузового, наступит нескоро. К примеру, даже в кабине поезда метро, который с технической точки зрения довольно давно считается беспилотными, все равно остается человек, его задача – следить за безопасностью и контролировать процесс. Одна из компаний – мировых лидеров в сфере беспилотников опубликовала релиз, согласно которому в среднем их операторы во время движения по городу вмешиваются в работу беспилотника один раз в три минуты. Это очень много. И нет ни одного примера, когда оператор не вмешивается в работу ИИ автомобиля хотя бы на 1%. Поэтому без оператора массово беспилотники в ближайшее десятилетие не поедут.

В нашей стране есть как минимум пять компаний, которые на серьезном уровне занимаются беспилотниками и технологиями для автономного транспорта. Они работают в разных сегментах и практически не конкурируют друг с другом. Это легковые и грузовые беспилотники, компьютерное зрение, сельскохозяйственная и тяжелая техника. Самые крупные игроки – Яндекс и КамАЗ. В последнее время активно развивается компания StarLine (Санкт-Петербург), именно ее беспилотник – единственный, добравшийся до финиша на технологическом конкурсе «Зимний город». Машина преодолела 50 км в условиях русской зимы менее чем за три часа. Помимо компании из Санкт-Петербурга, в конкурсе участвовали еще четыре команды: две – из Москвы (МАДИ и BaseTracK) и по одной – из Таганрога (Авто-РТК) и Нижнего Новгорода (НГТУ). Все они претендовали на пятый уровень автоматизации своих беспилотников. Сегодня на рынке беспилотников стартап пока еще может стать если не единорогом, то точно компанией с миллиардной капитализацией, если сумеет найти свою нишу.

Водители смогут выбирать между полностью автономными и обычными машинами. Вполне вероятно, что с развитием инфраструктуры и массовым внедрением беспилотников водителям запретят выезжать на дороги общего пользования. Причина – люди будут ставить под угрозу безопасность дорожного движения. В итоге с обычными автомобилями произойдет то же, что в начале XX века произошло с лошадьми. Вождение превратится в хобби и будет разрешено только на автодромах. Автолюбителям придется выезжать на специально отведенные для этого площадки, как сегодня любителям лошадей – на ипподромы.

Кажется, совсем скоро человечество создаст ту самую технологию, которая навсегда изменит нашу жизнь. Беспилотники массово выйдут на дороги, таксисты станут никому не нужны, аварий на дорогах не будет, и пробок тоже. Это весьма распространенные представления, родившиеся во многом благодаря компаниям из Кремниевой долины. Но не все так просто. Придется преодолеть технологические барьеры: беспилотный автомобиль – это сложная инфраструктурная история. Чтобы он полноценно поехал, необходимо, например, модернизировать дорожную сеть, чтобы беспилотные автомобили могли передвигаться в полностью автономном режиме в районах городов с более интенсивным трафиком, поэтапно приближаясь к решению самой сложной задачи - работе в полностью автономном режиме в час пик в крупных мегаполисах. Предстоит также решить правовые вопросы, вопросы ответственности и собственности. И, наконец, неразрешимые на сегодняшний день этические вопросы.

Развитие технологий ставит человечество перед пока что неразрешимыми этическими вопросами и правовыми вопросами.

Кто понесет ответственность в ДТП с беспилотником: компания-производитель, компания-разработчик ПО или владелец?

Если же ответственность будет распределяться между ними, как установить правильную пропорцию?

Существующие нормы предполагают гражданско-правовую ответственность владельца автомобиля, поскольку автомобиль является источником повышенной опасности, если только не удастся доказать умысел (по сути, прямую вину) другого лица в наступлении ДТП, рассказывает советник практики интеллектуальной собственности и информационных технологий в «Томашевская и партнеры» Роман Янковский.

В качестве одного из вариантов решения проблемы предлагается страхование ответственности беспилотного транспорта, или введение посредника в отношения между владельцем и беспилотным автомобилем: например, создание специального фонда, пополняемого с продаж беспилотников. Есть также варианты установки в машины специальных устройств для фиксации действий водителя и определения пропорций распределения выплат в рамках возмещения ущерба.

Уголовно-правовая ответственность действует несколько иначе. «Здесь в случае причинения вреда полностью автономным беспилотником его владелец, очевидно, не будет виновен в произошедшем. В таком случае вина будет определяться в соответствии с правилами разработки и эксплуатации беспилотников: если эти правила не были нарушены, смерть будет признана несчастным случаем и ответственность не наступит, если были виновным будет признан нарушитель. Весь вопрос в том, как будут сформулированы правила», – отметил Янковский.

Компании также могут участвовать в возмещении ущерба, даже если формально их беспилотники не виновны в ДТП, считает советник руководителя рабочей группы рынка НТИ Автонет Евгений Белянко.

В случае же, если транспортное средство является частично автономным, то на водителя уже будет распространяться вина в наступивших последствиях. Например, если частично автономный автомобиль собьет пешехода, переходившего дорогу по правилам. «Теоретически при очевидной программной ошибке возможно привлечь к ответственности разработчиков, но пока таких прецедентов не было», – пояснил Янковский.

Какое решение будет правильным, если в аварии погибнут люди? Кого должен спасать беспилотник? Водителя или пешехода? Или любой ценой минимизировать количество жертв? От того, как эти вопросы будут решаться на уровне государств, компаний-автопроизводителей и от реакции общества на неизбежные аварии, зависит, насколько быстро и массово беспилотники появятся на дорогах общего пользования. «Законодатель должен обязать производителей "программировать" в беспилотном транспорте этические законы, как решать моральные дилеммы: сбить одного человека, но нарушить правила дорожного движения или сбить 5 человек, но ехать по правилам и заданному маршруту; в случае, если избежать столкновения невозможно: сбить взрослого человека или ребенка», – считает Елена Ирискина.

Перед дилеммой встают и автопроизводители, которые помимо этических вопросов должны решать конкретные бизнес-задачи. Купите ли вы беспилотный автомобиль, который в случае чего пожертвует вами и спасет пешехода? Пойдете ли вы через дорогу с беспилотниками, которые в случае опасности будут спасать не вас?

Некоторые компании «зашивают» в мозги автомобиля безусловное сохранение жизни водителю. Mercedes-Benz программирует свои беспилотные автомобили таким образом, чтобы они в любой ситуации защищали бы тех, кто технически находится внутри автомобиля, а не снаружи. Жизнь пассажира важнее, даже если на кону стоят несколько жизней других участников движения.

Пока найти этически неопровержимый ответ на вопросы, связанные с ответственностью, не удалось никому. Поэтому в практической плоскости они решаются на уровне автопроизводителей. Каждым – по-своему.

Сергей Назаренко, главный конструктор инновационных автомобилей, КамАЗ:

«Думаю, что этот порог будет преодолен к 2027-2030 году. Технически автопроизводители будут готовы к массовому выпуску беспилотных автомобилей. Технически, конструктивно, с точки зрения алгоритмов, распознавания, дублирования систем ­– все эти вопросы будут производителями решены. Будут ли к этому моменту решены все остальные вопросы? Готово ли будет общество к внедрению беспилотных автомобилей ­– неизвестно».

Борис Иванов, руководитель проекта «Беспилотный автомобиль StarLine»:

«Через 5-7 лет, если мы говорим о дорогах общего пользования. Сегодня беспилотники способны уверенно работать в достаточно хорошо предсказуемых условиях, которыми не являются мегаполисы. Требуется доработка алгоритмов предсказания поведения других участников дорожного движения, создание цифровых моделей дорог, многостороннее и глубокое тестирование».

Артем Фокин, директор по развитию бизнеса беспилотных автомобилей, Яндекс:

«По мере развития технологии беспилотные автомобили смогут передвигаться в полностью автономном режиме в районах городов с более интенсивным трафиком, поэтапно приближаясь к решению самой сложной задачи – работе в полностью автономном режиме в час пик в крупных мегаполисах. По нашим расчетам, эта задача будет решена в течение ближайших 3-5 лет. Внедрение беспилотных технологий в повседневную жизнь – постепенный процесс, который требует развития не только технологий, но и регулирования».

Юрий Молодых, директор по развитию технологических конкурсов Up Great РВК:

«Пройдет очень долгий период, прежде чем беспилотники будут внедрены либо в ограниченных зонах, либо с дополнительным водителем. Постепенно это будет происходить. Думаю, что полный цикл внедрения, когда у нас есть автомобиль, который проходит все испытания на полигоне, и момент, когда по улице едет сто автомобилей и за рулем только одного из них сидит человек, – это десятки лет».