The Information: сотрудник Uber предупреждал компанию о проблемах с беспилотниками за неделю до смертельного ДТП Статьи редакции
Автомобили часто попадали в аварии, а водителей не увольняли за неумелое вождение, писал он.
Топ-менеджеры Uber получили письмо о проблемах с беспилотными машинами за пять дней до аварии со смертельным исходом, которая произошла при участии беспилотника компании в марте 2018 года. Об этом со ссылкой на документ пишет издание The Information.
Письмо написал менеджер группы тестирования автомобилей Роб Миллер (Robbie Miller). В документе он заявил, что команда должна работать над созданием культуры безопасности.
По словам Миллера, автономные машины Uber часто попадали в аварии, а их водители не всегда были хорошо обучены. Кроме того, водителей не увольняли за многократные ошибки за рулём.
Письмо было написано 13 марта 2018 года, Миллер отправил его главе автономного подразделения Эрику Мейхоферу (Eric Meyhofer), вице-президенту по ПО Джону Томасону (Jon Thomason) и ещё пяти топ-менеджерам и юристам компании.
18 марта беспилотник Uber насмерть сбил пешехода с велосипедом Элейн Херцберг в Аризоне. Водитель машины во время аварии смотрела шоу «Голос» на смартфоне, а пешеход переходила дорогу в неположенном месте.
В результате расследования полицейские решили, что аварию можно было предотвратить. После аварии компания временно прекратила тестирование беспилотников и принесла соболезнования семье погибшей.
Some incredibly sad news out of Arizona. We’re thinking of the victim’s family as we work with local law enforcement to understand what happened.
24 марта The New York Times написало о проблемах беспилотного подразделения Uber: автономность машин была низкой, а разработчики торопились внедрить технологию, что впечатлить начальство.
В то же время обычные автомобили с водителями точно так же сбивают пешеходов.
Это абсолютно неверный подход к проблеме. Второе совсем не оправдывает и не снижает серьезность проблемы в первом. И даже никак не связано с первым.
Не оправдывает, но является альтернативой. Если живой водитель сбивает человека каждую тысячу км, а робот каждые две тысячи, то имеет смысл внедрять роботов, хоть они и аццкие убийцы.
А по вашей логике следует запретить и подушки безопасности и ремни, ибо от них люди гибли.
Возражу. Во-первых, пока что нет достаточных данных, чтобы понять насколько роботы безопаснее человека. Во-вторых, авария произошла по двум причинам: из-за недоделанного робота, а также из-за человека, который не продублировал робота (что было обязательным условием).
Сегодня робот - это ученик в процессе практического урока вождения. Он просто не имеет права на вождение без сопровождающего. Последний несет ответственность за ученика, и не станет смотреть телевизор во время урока.
Я не считаю, что роботов не стоит внедрять. Я считаю, что не стоит внедрять недоделанных роботов, как не стоит ставить подушки безопасности, которые срабатывают от резкого торможения или убивают водителя осколками от корпуса газогенератора (при том, что это всего-то 62 357 штук, установленные на Мазда).
Данные уже есть. Роботы уже намотали первые миллионы км и доказали, что с ними аварий меньше, чем без них, в расчете на 1000 км.
Естественно, каждый трагический случай, каждая авария должны быть рассмотрены отдельно и если есть возможность сделать их еще более безопасными, это нужно делать. Но в целом наш мир стал крайне неустойчив из за того, что любая подхваченая массами истеричная новостийка про роботов-убийц может перевесить кучу исследований и статистических данных...
Скажем так - как бы цинично это ни звучало, при разработке робоавто стояла задача автономного управления автомобилем. Не спасение жизни пешеходам. Никто не говорит, что на безопасность надо класть, конечно. Но от случайностей не застрахован даже робот.
Я с вами не соглашусь по обоим пунктам. Задача стоит в разработке именно безопасного (как для водителя, так и для окружающего мира) автономного траснпорта. Случайность - это проявление результата совпадения независимых процессов или событий. Переход пешехода через дорогу, по которой едут авто - не независимые процессы, а взаимосвязанные. Было бы случайностью, если бы авто сбило в воздухе человека выпавшего из самолета.
Ну в таком случае пешеходов тоже нужно сделать роботизированными - только тогда на 99.9% можно исключить аварийные ситуации. А пока в системе присутствует рандом в виде человека - можно только попытаться свести их к минимуму.
Ну, как бы к этому все и идет. Там где пешеходы - нет машин, и наоборот :-) И все же, вопрос стоит не в том, чтобы добиться 100% безопасности, а в том, чтобы свести потери к достижимому минимуму. Скорее всего, систему можно улучшить, и она не станет сбивать людей в такой ситуации.
Сегодня тестирование на публичной дороге приостановлено. Но не из-за ошибки робота, и даже не из-за смерти человека (потому что регулятор знал, что такая возможность существует). Приостановили тестирование машин ОДНОЙ компании из-за ее безалаберности и отсутствия должного котроля. Тут Убер виноват и в смерти, и в замедлении общего прогресса.
А теперь давайте предположим, что ситуация непоправима. Т.е. программу уже нельзя улучшить, и при каждом таком случае авто будет сбивать пешехода. При этом, оно будет спасать жизни в 100 других случаев и в общем улучшит статистику. Тогда имеет смысл все равно выпускать их на дороги, повысив при этом ответственность пешеходов за перебегание дороги (в темноте).
с таким подходом к разработке и ответственности можно делать лишь анимированные фекальные смайлики
Комментарий недоступен
Это будет ауди. Я робот чтоли не смотрели?
Комментарий недоступен
Почти все современные системы безопасности сначала появились в мерседесе S-Класса, поэтому я охотно верю в ваше предсказание не зная про 4/5 автономности по SAE.
Комментарий недоступен
Комментарий недоступен
Комментарий недоступен
На опережение коментишь? Или день считается плохим, если беспилотники не подъебать?
Комментарий недоступен
Если бы я написал про Маска вы бы спросили где вы упоминали Маска
Комментарий недоступен
Не являясь верующим в стартапы, хотел бы заметить, что и сам мерседес вполне подходит под определение стартапа, просто начала 20 века, когда бенц с майбахом организовывали свои мастерские и строили первые авто и мотоциклы .
Комментарий недоступен
Да, и именно поэтому первый беспилотный апвтомобиль стал не мерседес.
И если копнуть, уверен, что под будущим беспилотником мерседесом наверняка есть приобретеные патенты и разработки стартапов. Это нормально, что инновации двигает мелочь, а гиганты внедряют в массовый рынок.
И даже если мерседес сделали бы с нуля, все равно общество кто-то должен был подготовить и это сделали стартаперы. Хотя Маска и стартапом ароноценно не назвать, слишком крупный...
Комментарий недоступен
Комментарий недоступен
Адепты Илона Маска и Биткойна возмущены твоим невежеством. Биткойн непотопляем.
Комментарий недоступен
Комментарий недоступен
Интересно, в Англии в начале прошлого века был закон, чтобы перед автомобилем бежал мальчишка и размахивал флагом...
Комментарий недоступен
Ну представляешь, сколько оповещений будет. "Атньсьон! Баба за рулем!" "Бабушка в матизе!" "Пьяный мент!" а теперь еще и роботы...
Uber не перестаёт напоминать об этимологии своего бренда.
Шо, опять?
Интересно, как скоро разбойники начнут грабить караваны из автопилотов?
Как только беспилотные фуры начнут перевозить что-то, кроме маркетингового воздуха.