Прокуратура США обвинила в непредумышленном убийстве оператора беспилотника Uber, насмерть сбившего человека в 2018 году

Водитель отвлёкся на мобильный телефон, хотя должен был следить за дорогой, установила прокуратура.

1313

Я читал рапорт комиссии. Автопилот видел её с большой дистанции. Проблема была в том что она вела велосипед пешком. Автопилот распозновал её то как пешехода то как велосипедиста. То есть каждый раз удалялся пешеход и создавался велосипедист а потом наоборот. Из-за этого подсчёт вектора движения объекта не успевал посчитаться так объект то появлялся то исчезал. На машине стояла также родная вольвовская система экстренного торможения но Убер её деактивировал чтобы не мешать автопилоту.
Если кто-то думает что автопилоты не будут делать смертельные аварии то это заблуждения. Даже теоретически это невозможно. Они просто будут делать намного меньше аварий. Сначала в разы меньше а потом в сотни и тысячи раз меньше. 

5

Это важная задача для разработчиков ИИ. Люди (и животные) понимают, что объект не может просто так исчезнуть. Если же с ним происходит что-то непонятное, то это заставляет насторожиться. Автопилот должен вести себя подобным образом. К тому же человек может пропасть из поля зрения, так как зашёл за грузовик, ремонтные щиты или просто оказался в толпе.

1