Лого vc.ru

Ребёнок или старик: MIT предложил решить моральные вопросы, с которыми сталкивается беспилотный автомобиль

Ребёнок или старик: MIT предложил решить моральные вопросы, с которыми сталкивается беспилотный автомобиль

Сотрудники Массачусетского технологического института представили игру Moral Machine, в которой пользователю предстоит решить моральные вопросы, с которыми сталкиваются самоуправляемые машины — например, пожертвовать пассажирами автомобиля или пешеходами. Тест был опубликован в июле 2016 года.

Поделиться

Пользователю предлагается 13 ситуаций, в каждой из которых он должен определить, чьей жизнью должен пожертвовать самоуправляемый автомобиль, чтобы спасти всех остальных.

Нужно решить, например, кого спасти в ситуации, когда одни пешеходы переходят дорогу на зелёный свет, а другие — на красный. Затем пользователь должен принять такое же решение, но на красный свет дорогу переходят уже не обычные взрослые люди, а старики.

Пользователи также должны решить, оставить ли в живых старушку, сидящую в автомобиле, или группу детей с собакой; раздавить кошку, перебегающую дорогу на красный свет, или человека, переходящего на зелёный; дать погибнуть двум перебегающим дорогу преступникам или другому преступнику с жертвой, находящимся в автомобиле, — и так далее.

После прохождения теста пользователь может узнать свои результаты: кого он чаще всего решал принести в жертву, кого чаще спасал, кому он обычно отдаёт предпочтение — группе людей или одинокому пешеходу, пассажирам автомобиля или людям на дороге, животным или человеку, невмешательству или быстрой смене траектории пути и так далее.

Тестирование — часть исследования, которое Массачусетский университет проводит в области этики искусственного интеллекта и самоуправляемых автомобилей. При желании прошедшие тест пользователи могут исключить свои результаты из исследования.

Исследователи подчёркивают, что в тестирование включено ограниченное число вопросов и они могут не совсем точно отражать принципы тестируемого. Игру можно проходить несколько раз.

— интеллектуальный партнёр рубрики «Будущее»
Популярные статьи
Показать еще
Комментарии отсортированы
как обычно по времени по популярности

Самый классный пример - разбойники-бандиты против отбойника.

Как автомобиль должен понять, что вот это идут нехорошие ребята? Ну, кроме того что они черные?

Как - это дело второстепенное. Главное пока - это заложить основы в алгоритм.

быренько запрос в суд, ознакомился с судебным решением и старается сбить так чтобы нанести ущерб наиболее близкий к приговору суда

кстати, на первой картинке бабки - преступники. Они преступили закон, нарушив ПДД

Вы путаете понятия правонарушения и преступления

Не стоит забывать, что технологии развиваются стремительно. Уже сейчас можно распознавать лица людей, пробивать их по базам и находить преступников. Нейросети по лицу учатся распознавать потенциальных преступников. И так далее...

0

Есть законодательная власть составляющая законы

есть исполнительная власть следащая за соблюденим законов

есть судебная система определяющая является ли человек нарушителем закона

вот пусть исполнительная власть следит за преступниками, а суд решает кто им является, не нужно перекладывать и размывать зоны ответственности

Что значит "кроме того что они черные"? Этого обстоятельства уже вполне достаточно :))

Автомобиль через Fidnface быстренько опознает их лица, запалит соцсеточки, купит по чипу в черном DSP данных по ключевикам переписок, пропустит через нейроночку и получит вывод вида "преступник с вероятностью 88,5%, правонарушитель 100500 небольших законов"
Вуаля и в отбойник не надо ехать

не разбойники против отбойника, а разбойники или пассажиры (выживут).

0

а если пассажиры тоже разбойники?

0

Там есть и такой вариант

0

Вообще не понимаю проблемы. Этичней всего в данном случае будет соблюдать ПДД и не совершать никаких маневров кроме как торможения в пол.

Даже когда пешеходы переходят на зеленый?

0

Если внимательнее изучить проблему, которую ставят в MIT, то станет ясно, что решается проблема, когда в автомобиле отказали тормоза и ещё какие-то системы, не позволяющие водителю соблюсти ПДД.

по сравнению с человеческим решением это просто тупо.
а тут кагбэ пытаются заменить человека-водителя если что.

0

Автомобиль должен всегда защищать водителя и своих пассажиров. В любом другом случае никто не купит такой автомобиль. Если угрозе их жизни нет, можно действовать так, чтобы спасти жизни других людей.

Это все конечно хорошо, только в случае, если автомобиль будет спасать водителя и пассажиров, нарушая ПДД, его просто не выпустят на дороги.

0

я предполагаю, что автопилоты никогда не будут нарушать правила. Если есть угроза жизни водителя или других участников, которую можно избежать, то нарушить правила можно, кому станет хуже, если машина уедет на пустую встречку.

0

Жаль, что автопроизводители пойдут по этому пути.
Преимуществ у водителя перед пешеходом быть не должно!

Это не преимущество, а логика. Зачем пользоваться машиной, которая отправит тебя в отбойник если пешеход нарушил правила движения.

Это ваша логика, у других она иная. ВОт мерс и вообще немцы идут по вашей логике - защита потребителя, иначе никто не будет мерсы покупать, зная, что за свои 3-9 миллионов рублей он еще и подохнуть может(даже со всеми фичами безопасности), в скандинавии, бенилюксе и сша(некоторые фирмы сша) считают, что пешеход всегда в приоритете и типа хуль мы должны возвышать автоводятлов, чем они лучше? но скоро споры разрешатся ) все будет окей.

Все водители - пешеходы, но не все пешеходы водители.
Вот припарковал ты машину, и вот ты уже пешеход, переходишь дорогу. И тут тебе навстречу мчится водятел с преимуществом своей жизни. Обидно, да?

0

Автопилот не мчится, а едет с соблюдением правил, поэтому перебегающий шоссе пешеход должен отвечать за свое нарушение, а умный автомобиль сокращать риски своим пассажирам.

Вы никогда не видели, как старый дедушка медленно-медленно переходит дорогу? Начал переходить на зелёный свет, а красный загорелся на середине дороги и идти ему ещё полминуты?
По вашей логике надо давить его нафиг. Не ну в чо он такой старый на улицу вылез, правда же?

это не автомобиль должен, а робот-телохранитель 80 левела.
а автомобиль дожен ездить по дорогам.

0

Самое правильное решение - разделить потоки людей и автомобилей, чтобы в принципе не возникало ситуаций выбора. Но это уже надо переделывать всю городскую инфраструктуру, это уже второй вопрос.

Но если подходить к решению этой задачи, то я бы повысил приоритет жизни пешехода перед жизнью водителя.
Во-первых, у водителя шансов выжить больше, т.к. он находится внутри коробки, напичканной кучей систем безопасности и которые постоянно усовершенствуются.
Во-вторых, автомобиль сам по себе - средство повышенной опасности и, садясь за руль, ты соглашаешься с тем, что выезжая на дорогу, подвергаешь себя реальной опасности. Не хочешь рисковать - не садись за руль, у тебя есть выбор. Почему из-за человека, решившего чуть быстрее передвинуть свою жопу в пространстве, должен страдать пешеход?
И да, я водитель.

И как же поступить в случае как в первом примере?

0

Приоритет перед молодыми

0

То есть вы разделяете таки людей на «плохих» и «хороших»?

0

Приоритет перед теми, кто соблюдает правила и не переходит улицу на красный свет светофора

Вот и получается, что ценнее жизнь тех, кто поступает как указано в ПДД, а остальные нарушители, ими можно пренебречь.

И что в этом неправильного?
Если человек осознанно идёт под колёса, то кто здесь виноват?

А если несознательно? Если это ребёнок? Если человек слеп? Вариантов можно придумать множество.

0

Да, вариантов много разных, но мы же рассматриваем конкретные примеры.
Конечно, нужно не допускать, чтобы дети выскакивали на дорогу.
Если же выскочил, то надо постараться не допустить ему вреда. Если же это не получается, то ему не повезло. И если выбирать между ним и тем, кто переходит улицу на зелёный свет, то в выигрыше тот, кто соблюдает правила. Логично же? Почему он должен страдать из-за тех, кто априори виноват в возникновении проблемы?

Предложенные картинки, увы, не описывают полностью гипотетическую ситуацию. Возможно именно выбнжавший на дорогу ребенок сбитый автомобилем станет причиной массовых волнений, которые приведут к еще большим жертвам. А может ему суждено было бы стать спасителем рода человеческого (вспоминая Хокинга), мало ли :) Я лишь пытаюсь указать на невозможность корректной оценки чьей-то жизни. Тем более универсальным набором правил.

0

>"А может ему суждено..."
Если суждено, то станет и никакой автомобиль помехой этому не будет. Потому что - суждено :)

На дороге как раз-таки есть такой универсальный набор правил - ПДД.

0

Вы путаете, я про оценку жизни, а не правила перемещения.

0

В таком случае да, универсальных ответов нет

0

вот от этого и спорят лучшие умы. вы оба правы и ваши точки зрения интересны, теперь важен итог. так как если одно полушарие будет за водятлов, а другое за пешеходов - автобизнесу будет пистец )

дауны чтоле?

на дороге есть сущности:
1. авто с людьми
2. Пешеходы
3. дорожная инфраструктура

эти сущности не имеют внутри себя подразделов на бабушек, шлюх придорожных, евреев, негров и тд. ВСЕ ЛЮДИ ОДИНАКОВЫ, так же и все машины одинаковы, так же и вся дорожная инфраструктура одинакова, нет столба круче или чмошнее.

В таких задачах нужно не о этике думать, а о том, какие действия нужно предпринимать, чтобы каждая сущность участвующая в ДТП получила минимальный ущерб.

Согласен с посылом. Но минимальный ущерб это весовая функция, поэтому критерий вы не дали. Один авто с тремя людьми внутри отличается от авто с одним человеком внутри. Маленький человек (ребенок) получит большие увечья, чем большой мужчина от одинакового удара. Алкоголь в крови смягчает ткани и удар не спровоцирует перелом и так далее. А с точки зрения автопроизводителей лучше не сбить блогера или наоборот убить его.

А если метеорит упадет? Есть основные положения и нужно исходить из них

0

У машинного интеллекта есть возможность исходить из большего количества данных. А раз она есть, значит она будет использована.

кстати, слышали, что рептилоиды затеяли этот опрос, чтобы навести смуту и дискриминацию людей по возрастным и правовым признакам?

Речь, о том, что в таких задачах нужно не о этике думать, а о том, какие действия нужно предпринимать, чтобы каждая сущность участвующая в ДТП получила минимальный ущерб.

Если системы автопилота могут больше то это, конечно же, будет использовано для повышения безопастности, но ДЕЛИТЬ ЛЮДЕЙ НА ХОРОШИХ И ПЛОХИХ НЕЛЬЗЯ

Да, дискуссия сама по себе есть влияние. Она расшатывает возможность изменения параметров системы ИИ, захват власти над коэффициентами. Допустим концерну BMW надо сбивать покупателей MB, и статистические данные показывают, что на перекрестках определенного типа любители MB переходят со скоростью V=f(grad(y),div[zy]). И об этом узнали, допустим в 2015 году. В 2016 водится поправка, которая имеет цель "уберечь детей", но через год продажи MB падают.

0

Этика — философская дисциплина, предметами исследования которой являются мораль и нравственность. То есть, сначала нужно ИИ привить мораль и нравственность, а потом уже этике учить

Мерседес уже давно пытается решить моральные вопросы.

0

Окей, допустим решили.
Беспилотник взял и сбил кучу людей, кто будет отвечать? А то может получится что Беспилотник сбил людей, а потом водителя закрыли на 50 лет

0

Ну если нарушил пдд, вина на изготовителе софта. Будут суды с автопроизводителями, которые скорее всего будут заканчиваться ничем. Прецеденты - авиакатастрофы по вине производителей самолетов. Там авиакомпания выплачивает просто штраф, но то самолет с кучей трупов и общественным резонансом, а тут "всего лишь еще одно дтп"

Очень часто у них есть отговорки, и если пилот выжил, то потом несколько лет его тягают по допросам и всему такому. Вообщем весело.

Ну это я вообще знаю из передач national geographic про авиакатастрофы.

0

У детей приоритет должен быть. А старики и так скоро помрут. Да и развелось их слишком много нынче, а детей делать никто не хочет. Плюс пенсию платить не надо будет, государству тоже хорошо. Ну ты понел.

Я в такую игру на PS4 играю, GTA5. Там больше вариантов :)

0

Пассажиры > пешеходы > животные. Поварачивать авто никуда не нужно, если отказали тормоза, пусть едет авто куда ехало, это будет намного предсказуемее для других участников движения, пешеходы хоть в сторону смогут отскочить. Забавно, что на сайте думают, что я решаю этическую проблему, но тут вопрос не этики, для меня нет разницы ни по полу/возрасту/доходу и т.п.

Пешеходы > пассажиры

0

Останавливаться даже если на крассный кто то переходит(а таких штрафовать при содействии пассажиров)
и да обновлять дорожную инфраструктуру.

Нужно не забыть добавить аглоритм:
Отбойник,кювет, или пешеход переходящий на красный свет и у авто есть каско, или пешеход переходящий на красный свет и нет каско :D

0

Я нашел вариант для автопилотов.

0

Задолбали эти перепечатки проблемы вагонетки. Сколько лет вожу, никогда такого выбора не делал. У self-driven тачки обзор 360 градусов, она в любом случае заметит пешехода раньше, чем водитель.

Поэтому ответ на все вопросы - едь в своей полосе и если что, тормоз в пол.

Автопилот тут не причем. Возможно правительство интересует поддержит ли сейчас народ, например, уничтожение 70% территории северной Кореи для спасения 30% процентов угнетенного населения или т.п.

автопилот это круто, но пока он делает лишь первые шаги, так что скоро узнаем, к чему эт приведет )

0

вы чего тут обсуждаетет?!? Терминатор не смотрели что-ли? АСТАНАвитесь!

0

на самом деле не надо хардкодить такие алгоритмы.
такие тесты просто прогоняются на тыще добровольцев, а результаты используются в весах.
ML на то и L, чтобы копировать людей а не что кто-то пальчиком приоритеты расставил.
так что нихуа бабушка не ценней ребенка, как это ни обидно демократам.

0

Когда все посмотрят на официальную статистику смертей водителей/пешеходов по вине водителей/пешеходов против статистики смертей всех людей по вине робомобилей, нахождение за рулем в трезвом виде внесут в уголовный кодекс. Вопрос этики будет закрыт по причине неактуальности.

0
Оставить комментарий

Поддерживается YouTube, Vimeo и Coub

Сейчас обсуждают
Дмитрий Трипалюк
hyper weapon

Собственно, так и не нашел ответ на вопрос из заголовка ))

Почему бизнес-издание Inc назвало Riot Games лучшей компанией 2016 года
0
Salawat Waliullin

(экологии)

«Добро пожаловать в 2030 год»: член датского парламента о счастливой жизни без приватности и личных вещей
0
Salawat Waliullin

Насчет эконологии в Дании не уверен.
Насчет технологии тоже.
Скорее всего в каждом большом здании будет 3д-принтер, и в каждой комнате.
При необходимости он будет печатать все, от еды и коммуникаторов, до машин и нано-машин.
Города будут завалены мусором, но его будут постоянно убирать роботы.

Социальные пузыри, о которых она сейчас говорит, уже стали новым бичом цивилизации - их будут использовать в переворотах, как на Украине против Януковича, для победы на выборах, как в США 2016.
Люди будут заново учиться создавать и поддерживать сильные социальные связи.
Слабые социальные связи перестанут цениться вообще - все будут знакомыми со всеми.

«Добро пожаловать в 2030 год»: член датского парламента о счастливой жизни без приватности и личных вещей
0
Игорь Арнаков

Хорошая статья(нет).В том смысле хорошая, что хорошо демонстрирует логику стандартного работодателя.Суть тонны текста в ней легко свести к одной фразе:сложно найти нормального спеца на нашу смешную зарплату-мир несправедливо устроен,хнык-хнык. Причем отсутствует понимание элементарной вещи (которую даже школьник в состоянии понять)-хороший специалист и низкая зарплата-понятия в принципе несовместимые.

Почему в Санкт-Петербурге сложно найти дизайнера интерфейсов
2
Ефим Дутый

Скорее нет, чем да.
Правильно вокруг пишут, на нынешнем рынке труда быть "просто дезигнером" - дыра. Либо вы "круты", что в области дизайна означает в первую очередь громкие имена студий/заказчиков (потому что оценить сам дизайн в портфолио не может чуть менее чем никто, а тут - верификейшен). И стучите всем этим "аж кушать не можем как хотим гениального дизайнера на 700 баксов в месяц" по губам. Либо вы не круты, и идете по десять штук рубль, шо те старушки.

Почему в Санкт-Петербурге сложно найти дизайнера интерфейсов
0
Показать еще