Лого vc.ru

Ребёнок или старик: MIT предложил решить моральные вопросы, с которыми сталкивается беспилотный автомобиль

Ребёнок или старик: MIT предложил решить моральные вопросы, с которыми сталкивается беспилотный автомобиль

Сотрудники Массачусетского технологического института представили игру Moral Machine, в которой пользователю предстоит решить моральные вопросы, с которыми сталкиваются самоуправляемые машины — например, пожертвовать пассажирами автомобиля или пешеходами. Тест был опубликован в июле 2016 года.

Пользователю предлагается 13 ситуаций, в каждой из которых он должен определить, чьей жизнью должен пожертвовать самоуправляемый автомобиль, чтобы спасти всех остальных.

Нужно решить, например, кого спасти в ситуации, когда одни пешеходы переходят дорогу на зелёный свет, а другие — на красный. Затем пользователь должен принять такое же решение, но на красный свет дорогу переходят уже не обычные взрослые люди, а старики.

Пользователи также должны решить, оставить ли в живых старушку, сидящую в автомобиле, или группу детей с собакой; раздавить кошку, перебегающую дорогу на красный свет, или человека, переходящего на зелёный; дать погибнуть двум перебегающим дорогу преступникам или другому преступнику с жертвой, находящимся в автомобиле, — и так далее.

После прохождения теста пользователь может узнать свои результаты: кого он чаще всего решал принести в жертву, кого чаще спасал, кому он обычно отдаёт предпочтение — группе людей или одинокому пешеходу, пассажирам автомобиля или людям на дороге, животным или человеку, невмешательству или быстрой смене траектории пути и так далее.

Тестирование — часть исследования, которое Массачусетский университет проводит в области этики искусственного интеллекта и самоуправляемых автомобилей. При желании прошедшие тест пользователи могут исключить свои результаты из исследования.

Исследователи подчёркивают, что в тестирование включено ограниченное число вопросов и они могут не совсем точно отражать принципы тестируемого. Игру можно проходить несколько раз.

Присылайте свои колонки о том, как изменится наш мир, на future@vc.ru.

— эксперт рубрики «Будущее»

Самый классный пример - разбойники-бандиты против отбойника.

Как автомобиль должен понять, что вот это идут нехорошие ребята? Ну, кроме того что они черные?

Как - это дело второстепенное. Главное пока - это заложить основы в алгоритм.

0

Не стоит забывать, что технологии развиваются стремительно. Уже сейчас можно распознавать лица людей, пробивать их по базам и находить преступников. Нейросети по лицу учатся распознавать потенциальных преступников. И так далее...

Что значит "кроме того что они черные"? Этого обстоятельства уже вполне достаточно :))

Автомобиль через Fidnface быстренько опознает их лица, запалит соцсеточки, купит по чипу в черном DSP данных по ключевикам переписок, пропустит через нейроночку и получит вывод вида "преступник с вероятностью 88,5%, правонарушитель 100500 небольших законов"
Вуаля и в отбойник не надо ехать

0

не разбойники против отбойника, а разбойники или пассажиры (выживут).

0

Даже когда пешеходы переходят на зеленый?

Если внимательнее изучить проблему, которую ставят в MIT, то станет ясно, что решается проблема, когда в автомобиле отказали тормоза и ещё какие-то системы, не позволяющие водителю соблюсти ПДД.

0

по сравнению с человеческим решением это просто тупо.
а тут кагбэ пытаются заменить человека-водителя если что.

Автомобиль должен всегда защищать водителя и своих пассажиров. В любом другом случае никто не купит такой автомобиль. Если угрозе их жизни нет, можно действовать так, чтобы спасти жизни других людей.

0

Это все конечно хорошо, только в случае, если автомобиль будет спасать водителя и пассажиров, нарушая ПДД, его просто не выпустят на дороги.

0

я предполагаю, что автопилоты никогда не будут нарушать правила. Если есть угроза жизни водителя или других участников, которую можно избежать, то нарушить правила можно, кому станет хуже, если машина уедет на пустую встречку.

Жаль, что автопроизводители пойдут по этому пути.
Преимуществ у водителя перед пешеходом быть не должно!

Это не преимущество, а логика. Зачем пользоваться машиной, которая отправит тебя в отбойник если пешеход нарушил правила движения.

Это ваша логика, у других она иная. ВОт мерс и вообще немцы идут по вашей логике - защита потребителя, иначе никто не будет мерсы покупать, зная, что за свои 3-9 миллионов рублей он еще и подохнуть может(даже со всеми фичами безопасности), в скандинавии, бенилюксе и сша(некоторые фирмы сша) считают, что пешеход всегда в приоритете и типа хуль мы должны возвышать автоводятлов, чем они лучше? но скоро споры разрешатся ) все будет окей.

0

Все водители - пешеходы, но не все пешеходы водители.
Вот припарковал ты машину, и вот ты уже пешеход, переходишь дорогу. И тут тебе навстречу мчится водятел с преимуществом своей жизни. Обидно, да?

Автопилот не мчится, а едет с соблюдением правил, поэтому перебегающий шоссе пешеход должен отвечать за свое нарушение, а умный автомобиль сокращать риски своим пассажирам.

Вы никогда не видели, как старый дедушка медленно-медленно переходит дорогу? Начал переходить на зелёный свет, а красный загорелся на середине дороги и идти ему ещё полминуты?
По вашей логике надо давить его нафиг. Не ну в чо он такой старый на улицу вылез, правда же?

0

это не автомобиль должен, а робот-телохранитель 80 левела.
а автомобиль дожен ездить по дорогам.

Самое правильное решение - разделить потоки людей и автомобилей, чтобы в принципе не возникало ситуаций выбора. Но это уже надо переделывать всю городскую инфраструктуру, это уже второй вопрос.

Но если подходить к решению этой задачи, то я бы повысил приоритет жизни пешехода перед жизнью водителя.
Во-первых, у водителя шансов выжить больше, т.к. он находится внутри коробки, напичканной кучей систем безопасности и которые постоянно усовершенствуются.
Во-вторых, автомобиль сам по себе - средство повышенной опасности и, садясь за руль, ты соглашаешься с тем, что выезжая на дорогу, подвергаешь себя реальной опасности. Не хочешь рисковать - не садись за руль, у тебя есть выбор. Почему из-за человека, решившего чуть быстрее передвинуть свою жопу в пространстве, должен страдать пешеход?
И да, я водитель.

0

И как же поступить в случае как в первом примере?

0

Приоритет перед молодыми

0

То есть вы разделяете таки людей на «плохих» и «хороших»?

Приоритет перед теми, кто соблюдает правила и не переходит улицу на красный свет светофора

Вот и получается, что ценнее жизнь тех, кто поступает как указано в ПДД, а остальные нарушители, ими можно пренебречь.

И что в этом неправильного?
Если человек осознанно идёт под колёса, то кто здесь виноват?

0

А если несознательно? Если это ребёнок? Если человек слеп? Вариантов можно придумать множество.

Да, вариантов много разных, но мы же рассматриваем конкретные примеры.
Конечно, нужно не допускать, чтобы дети выскакивали на дорогу.
Если же выскочил, то надо постараться не допустить ему вреда. Если же это не получается, то ему не повезло. И если выбирать между ним и тем, кто переходит улицу на зелёный свет, то в выигрыше тот, кто соблюдает правила. Логично же? Почему он должен страдать из-за тех, кто априори виноват в возникновении проблемы?

0

Предложенные картинки, увы, не описывают полностью гипотетическую ситуацию. Возможно именно выбнжавший на дорогу ребенок сбитый автомобилем станет причиной массовых волнений, которые приведут к еще большим жертвам. А может ему суждено было бы стать спасителем рода человеческого (вспоминая Хокинга), мало ли :) Я лишь пытаюсь указать на невозможность корректной оценки чьей-то жизни. Тем более универсальным набором правил.

>"А может ему суждено..."
Если суждено, то станет и никакой автомобиль помехой этому не будет. Потому что - суждено :)

0

На дороге как раз-таки есть такой универсальный набор правил - ПДД.

0

Вы путаете, я про оценку жизни, а не правила перемещения.

0

В таком случае да, универсальных ответов нет

вот от этого и спорят лучшие умы. вы оба правы и ваши точки зрения интересны, теперь важен итог. так как если одно полушарие будет за водятлов, а другое за пешеходов - автобизнесу будет пистец )

Этика — философская дисциплина, предметами исследования которой являются мораль и нравственность. То есть, сначала нужно ИИ привить мораль и нравственность, а потом уже этике учить

0

Мерседес уже давно пытается решить моральные вопросы.

0

Окей, допустим решили.
Беспилотник взял и сбил кучу людей, кто будет отвечать? А то может получится что Беспилотник сбил людей, а потом водителя закрыли на 50 лет

Ну если нарушил пдд, вина на изготовителе софта. Будут суды с автопроизводителями, которые скорее всего будут заканчиваться ничем. Прецеденты - авиакатастрофы по вине производителей самолетов. Там авиакомпания выплачивает просто штраф, но то самолет с кучей трупов и общественным резонансом, а тут "всего лишь еще одно дтп"

0

Очень часто у них есть отговорки, и если пилот выжил, то потом несколько лет его тягают по допросам и всему такому. Вообщем весело.

Ну это я вообще знаю из передач national geographic про авиакатастрофы.

У детей приоритет должен быть. А старики и так скоро помрут. Да и развелось их слишком много нынче, а детей делать никто не хочет. Плюс пенсию платить не надо будет, государству тоже хорошо. Ну ты понел.

0

Я в такую игру на PS4 играю, GTA5. Там больше вариантов :)

Пассажиры > пешеходы > животные. Поварачивать авто никуда не нужно, если отказали тормоза, пусть едет авто куда ехало, это будет намного предсказуемее для других участников движения, пешеходы хоть в сторону смогут отскочить. Забавно, что на сайте думают, что я решаю этическую проблему, но тут вопрос не этики, для меня нет разницы ни по полу/возрасту/доходу и т.п.

0

Пешеходы > пассажиры

Останавливаться даже если на крассный кто то переходит(а таких штрафовать при содействии пассажиров)
и да обновлять дорожную инфраструктуру.

0

Нужно не забыть добавить аглоритм:
Отбойник,кювет, или пешеход переходящий на красный свет и у авто есть каско, или пешеход переходящий на красный свет и нет каско :D

0

Я нашел вариант для автопилотов.

Задолбали эти перепечатки проблемы вагонетки. Сколько лет вожу, никогда такого выбора не делал. У self-driven тачки обзор 360 градусов, она в любом случае заметит пешехода раньше, чем водитель.

Поэтому ответ на все вопросы - едь в своей полосе и если что, тормоз в пол.

Автопилот тут не причем. Возможно правительство интересует поддержит ли сейчас народ, например, уничтожение 70% территории северной Кореи для спасения 30% процентов угнетенного населения или т.п.

0

автопилот это круто, но пока он делает лишь первые шаги, так что скоро узнаем, к чему эт приведет )

0

вы чего тут обсуждаетет?!? Терминатор не смотрели что-ли? АСТАНАвитесь!

0

на самом деле не надо хардкодить такие алгоритмы.
такие тесты просто прогоняются на тыще добровольцев, а результаты используются в весах.
ML на то и L, чтобы копировать людей а не что кто-то пальчиком приоритеты расставил.
так что нихуа бабушка не ценней ребенка, как это ни обидно демократам.

0

Когда все посмотрят на официальную статистику смертей водителей/пешеходов по вине водителей/пешеходов против статистики смертей всех людей по вине робомобилей, нахождение за рулем в трезвом виде внесут в уголовный кодекс. Вопрос этики будет закрыт по причине неактуальности.

Прямой эфир
Узнавайте первым важные новости
Подписаться