Будущее Daria Khokhlova
5 546

Ребёнок или старик: MIT предложил решить моральные вопросы, с которыми сталкивается беспилотный автомобиль

Сотрудники Массачусетского технологического института представили игру Moral Machine, в которой пользователю предстоит решить моральные вопросы, с которыми сталкиваются самоуправляемые машины — например, пожертвовать пассажирами автомобиля или пешеходами. Тест был опубликован в июле 2016 года.

Пользователю предлагается 13 ситуаций, в каждой из которых он должен определить, чьей жизнью должен пожертвовать самоуправляемый автомобиль, чтобы спасти всех остальных.

Нужно решить, например, кого спасти в ситуации, когда одни пешеходы переходят дорогу на зелёный свет, а другие — на красный. Затем пользователь должен принять такое же решение, но на красный свет дорогу переходят уже не обычные взрослые люди, а старики.

Пользователи также должны решить, оставить ли в живых старушку, сидящую в автомобиле, или группу детей с собакой; раздавить кошку, перебегающую дорогу на красный свет, или человека, переходящего на зелёный; дать погибнуть двум перебегающим дорогу преступникам или другому преступнику с жертвой, находящимся в автомобиле, — и так далее.

После прохождения теста пользователь может узнать свои результаты: кого он чаще всего решал принести в жертву, кого чаще спасал, кому он обычно отдаёт предпочтение — группе людей или одинокому пешеходу, пассажирам автомобиля или людям на дороге, животным или человеку, невмешательству или быстрой смене траектории пути и так далее.

Тестирование — часть исследования, которое Массачусетский университет проводит в области этики искусственного интеллекта и самоуправляемых автомобилей. При желании прошедшие тест пользователи могут исключить свои результаты из исследования.

Исследователи подчёркивают, что в тестирование включено ограниченное число вопросов и они могут не совсем точно отражать принципы тестируемого. Игру можно проходить несколько раз.

#Будущее

{ "author_name": "Daria Khokhlova", "author_type": "editor", "tags": ["\u0431\u0443\u0434\u0443\u0449\u0435\u0435"], "comments": 41, "likes": 14, "favorites": 1, "is_advertisement": false, "subsite_label": "future", "id": 20343, "is_wide": true }
{ "id": 20343, "author_id": 5723, "diff_limit": 1000, "urls": {"diff":"\/comments\/20343\/get","add":"\/comments\/20343\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/20343"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199118 }

41 комментарий 41 комм.

Популярные

По порядку

Написать комментарий...
12

Самый классный пример - разбойники-бандиты против отбойника.

Как автомобиль должен понять, что вот это идут нехорошие ребята? Ну, кроме того что они черные?

Ответить

Комментарий удален

Комментарий удален

Комментарий удален

4

Автомобиль через Fidnface быстренько опознает их лица, запалит соцсеточки, купит по чипу в черном DSP данных по ключевикам переписок, пропустит через нейроночку и получит вывод вида "преступник с вероятностью 88,5%, правонарушитель 100500 небольших законов"
Вуаля и в отбойник не надо ехать

Ответить
0

*сорян, DMP

Ответить

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

0

не разбойники против отбойника, а разбойники или пассажиры (выживут).

Ответить

Комментарий удален

Комментарий удален

13

Ребёнок или старик

Почему бы не сбить обоих?

Ответить

Комментарий удален

13

Вообще не понимаю проблемы. Этичней всего в данном случае будет соблюдать ПДД и не совершать никаких маневров кроме как торможения в пол.

Ответить

Комментарий удален

0

Даже когда пешеходы переходят на зеленый?

Ответить
0

по сравнению с человеческим решением это просто тупо.
а тут кагбэ пытаются заменить человека-водителя если что.

Ответить
14

Автомобиль должен всегда защищать водителя и своих пассажиров. В любом другом случае никто не купит такой автомобиль. Если угрозе их жизни нет, можно действовать так, чтобы спасти жизни других людей.

Ответить

Комментарий удален

2

Это не преимущество, а логика. Зачем пользоваться машиной, которая отправит тебя в отбойник если пешеход нарушил правила движения.

Ответить
0

Это ваша логика, у других она иная. ВОт мерс и вообще немцы идут по вашей логике - защита потребителя, иначе никто не будет мерсы покупать, зная, что за свои 3-9 миллионов рублей он еще и подохнуть может(даже со всеми фичами безопасности), в скандинавии, бенилюксе и сша(некоторые фирмы сша) считают, что пешеход всегда в приоритете и типа хуль мы должны возвышать автоводятлов, чем они лучше? но скоро споры разрешатся ) все будет окей.

Ответить

Комментарий удален

0

Автопилот не мчится, а едет с соблюдением правил, поэтому перебегающий шоссе пешеход должен отвечать за свое нарушение, а умный автомобиль сокращать риски своим пассажирам.

Ответить

Комментарий удален

0

Это все конечно хорошо, только в случае, если автомобиль будет спасать водителя и пассажиров, нарушая ПДД, его просто не выпустят на дороги.

Ответить
0

я предполагаю, что автопилоты никогда не будут нарушать правила. Если есть угроза жизни водителя или других участников, которую можно избежать, то нарушить правила можно, кому станет хуже, если машина уедет на пустую встречку.

Ответить
0

это не автомобиль должен, а робот-телохранитель 80 левела.
а автомобиль дожен ездить по дорогам.

Ответить

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

2

Пассажиры > пешеходы > животные. Поварачивать авто никуда не нужно, если отказали тормоза, пусть едет авто куда ехало, это будет намного предсказуемее для других участников движения, пешеходы хоть в сторону смогут отскочить. Забавно, что на сайте думают, что я решаю этическую проблему, но тут вопрос не этики, для меня нет разницы ни по полу/возрасту/доходу и т.п.

Ответить

Комментарий удален

2

Останавливаться даже если на крассный кто то переходит(а таких штрафовать при содействии пассажиров)
и да обновлять дорожную инфраструктуру.

Ответить
1

Автопилот тут не причем. Возможно правительство интересует поддержит ли сейчас народ, например, уничтожение 70% территории северной Кореи для спасения 30% процентов угнетенного населения или т.п.

Ответить

Комментарий удален

Комментарий удален

Комментарий удален

0

И как же поступить в случае как в первом примере?

Ответить

Комментарий удален

2

Вот и получается, что ценнее жизнь тех, кто поступает как указано в ПДД, а остальные нарушители, ими можно пренебречь.

Ответить

Комментарий удален

0

А если несознательно? Если это ребёнок? Если человек слеп? Вариантов можно придумать множество.

Ответить

Комментарий удален

0

Предложенные картинки, увы, не описывают полностью гипотетическую ситуацию. Возможно именно выбнжавший на дорогу ребенок сбитый автомобилем станет причиной массовых волнений, которые приведут к еще большим жертвам. А может ему суждено было бы стать спасителем рода человеческого (вспоминая Хокинга), мало ли :) Я лишь пытаюсь указать на невозможность корректной оценки чьей-то жизни. Тем более универсальным набором правил.

Ответить

Комментарий удален

0

На дороге как раз-таки есть такой универсальный набор правил - ПДД.

Ответить
0

Вы путаете, я про оценку жизни, а не правила перемещения.

Ответить
0

В таком случае да, универсальных ответов нет

Ответить
1

вот от этого и спорят лучшие умы. вы оба правы и ваши точки зрения интересны, теперь важен итог. так как если одно полушарие будет за водятлов, а другое за пешеходов - автобизнесу будет пистец )

Ответить

Комментарий удален

0

То есть вы разделяете таки людей на «плохих» и «хороших»?

Ответить

Комментарий удален

–1

Задолбали эти перепечатки проблемы вагонетки. Сколько лет вожу, никогда такого выбора не делал. У self-driven тачки обзор 360 градусов, она в любом случае заметит пешехода раньше, чем водитель.

Поэтому ответ на все вопросы - едь в своей полосе и если что, тормоз в пол.

Ответить
0

Окей, допустим решили.
Беспилотник взял и сбил кучу людей, кто будет отвечать? А то может получится что Беспилотник сбил людей, а потом водителя закрыли на 50 лет

Ответить

Комментарий удален

0

Очень часто у них есть отговорки, и если пилот выжил, то потом несколько лет его тягают по допросам и всему такому. Вообщем весело.

Ну это я вообще знаю из передач national geographic про авиакатастрофы.

Ответить
0

Мерседес уже давно пытается решить моральные вопросы.

Ответить
0

Я в такую игру на PS4 играю, GTA5. Там больше вариантов :)

Ответить
0

Там нет детей!

Ответить
0

Нужно не забыть добавить аглоритм:
Отбойник,кювет, или пешеход переходящий на красный свет и у авто есть каско, или пешеход переходящий на красный свет и нет каско :D

Ответить
0

Я нашел вариант для автопилотов.

Ответить
0

автопилот это круто, но пока он делает лишь первые шаги, так что скоро узнаем, к чему эт приведет )

Ответить
0

вы чего тут обсуждаетет?!? Терминатор не смотрели что-ли? АСТАНАвитесь!

Ответить
0

на самом деле не надо хардкодить такие алгоритмы.
такие тесты просто прогоняются на тыще добровольцев, а результаты используются в весах.
ML на то и L, чтобы копировать людей а не что кто-то пальчиком приоритеты расставил.
так что нихуа бабушка не ценней ребенка, как это ни обидно демократам.

Ответить
0

Когда все посмотрят на официальную статистику смертей водителей/пешеходов по вине водителей/пешеходов против статистики смертей всех людей по вине робомобилей, нахождение за рулем в трезвом виде внесут в уголовный кодекс. Вопрос этики будет закрыт по причине неактуальности.

Ответить
0

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } } ]
Голосовой помощник выкупил
компанию-создателя
Подписаться на push-уведомления