Робот-полицейский сбил ребёнка, дверной звонок не пустил человека в дом: к чему приводят неисправности «умной» техники
Девять историй людей, которые столкнулись со сбоями в работе устройств, и советы юристов и экспертов рынка о том, как защититься от технических угроз и что делать, если ущерб уже нанесён.
Сбой в системе климат-контроля
Весной 2016 года семья Вольмерт из штата Техас потеряла свою полуторагодовалую дочь Сэм. О том, что произошло, рассказали сами супруги на странице в Facebook.
Уложив Сэм спать, Керри Вольмерт включила систему отопления, которая должна была поддерживать температуру в 23°C в детской комнате. Наутро, поднимаясь по лестнице к комнате Сэм, Ларри Вольмерт почувствовал жар, повеявший со второго этажа. Войдя в детскую, он обнаружил свою дочь мёртвой.
Ночью в системе обогрева произошёл сбой, и температура в помещении поднялась до 38°C. У ребёнка случился перегрев. По словам врача, из-за физиологических особенностей дети перегреваются значительно быстрее взрослых, поэтому шансов выжить в таких условиях у них меньше.
Семья Вольмертов не подозревала, чем может грозить обычная система климат-контроля, и теперь призывает родителей не полагаться на одно «умное» решение для дома, а дополнительно устанавливать радионяню, оснащённую датчиком температуры и сигнализацией.
Если речь не идёт о системах, которые могут представлять опасность для пользователя, все эксплуатационные риски лежат на потребителях. Вне зависимости от того, что вы приобрели: холодильник или «умный» обогреватель, после покупки вы несёте все риски.
Похожая история и с программным продуктом: если завтра у вас внезапно начнёт обновляться Windows, и из-за этого не получится поработать, вы не сможете потребовать компенсацию ущерба.
Этот подход не применим к устройствам, которые могут быть опасны, например, если во время пожара не сработала система сигнализации. Тут уже может появиться ответственность у производителя и организации, которая эту технику устанавливала.
В случае со сбоем «умной» системы в доме, пострадавшим нужно доказать вину поставщика: если устройство вышло из строя только потому, что, например, вода на неё накапала и контакт перемкнуло — это одна история. А если механических повреждений не было и система просто не сработала — это другое.
Но доказательство вины третьего лица, — того, кто произвёл, продал, установил, — требует большой технической компетенции, потребуются дорогостоящие экспертизы. При этом на Западе и в России разные практики: у нас размеры компенсации морального вреда несоизмеримо меньше, чем, скажем, в Калифорнии.
Например, если разбилась Tesla, компенсация пострадавшему будет выражаться в семизначных суммах, может и больше. А в России в аналогичной ситуации размер компенсации будет в тысячи раз меньше. Если вообще будет.
Поэтому пострадавшим от техники я бы не рекомендовал обращаться за компенсацией, но привлечь к уголовной ответственности поставщика необходимо, чтобы из-за него не пострадал кто-нибудь ещё.
Взлом радионяни
В начале 2019 года основатель компании в сфере кибербезопасности Group-IB Илья Сачков рассказал «Российской газете» о хакерах, которые взламывали радионяни, а потом пугали с их помощью детей. К нему обратился российский предприниматель с просьбой найти злоумышленников, взломавших видеокамеру в его доме.
Камера, призванная следить за ребёнком и няней, была подключена напрямую к интернету со стандартными заводскими настройками — логином admin и таким же паролем. Хакеры ищут такие камеры с помощью специального сканера, подключаются к ним дистанционно и могут не только шпионить, но и воспроизводить различные звуки или музыку через динамик.
Злоумышленники заговорили с ребёнком с помощью радионяни. Родители узнали об этом и обратились к киберкриминалистам, которые поставили маршрутизатор. Они перенастроили точки доступа и провели анализ радионяни.
Специалисты из Group-IB рекомендуют в первую очередь после покупки роутера или маршрутизатора менять заводские пароли и выбирать более сложные и надёжные комбинации символов, а также помнить, что если в устройстве есть микрофон и видеокамера, значит всё, что он записывает, может оказаться у третьих лиц.
Стандартный набор рекомендаций, связанных с интернет-безопасностью, включает в себя в первую очередь ограничение доступа к устройствам. Зачастую пользователи не заморачиваются сменой паролей и установкой хоть сколько-нибудь сложных комбинаций. К сожалению, это причина большинства взломов.
Во-вторых, обезопасить себя поможет установка антивирусов и firewall. В-третьих, многие бренды используют открытые протоколы, без защиты, поэтому важно выбирать надёжных производителей с хорошей репутацией.
Всё это должно входить в практику так же, как и личная гигиена. Но поскольку эта сфера возникла недавно, сейчас она проходит стандартный период «детских болезней»: мы сталкиваемся с множеством сбоев, на которых будем учиться.
Любые устройства, которые сложнее лампочки, могут содержать массу ошибок, и не всегда разработчики выявляют все уязвимости, но со временем мы научимся с ними бороться.
Люди склонны принимать какие-то массовые сбои за угрозы со стороны сознания техники или винить в каких-то происшествиях устройства, но я не отношусь серьёзно к прогнозам о восстании машин и не считаю, что техника как-то вредит человеку.
Главное — не терять голову и сохранять здравый смысл, поручая технике такие критически важные вещи, как здоровье или жизнь человека.
Подглядывание через видеоняню
В Южной Каролине в мае 2018 года злоумышленники взломали камеру Fredi, предназначенную для наблюдения за ребёнком, чтобы подглядывать за грудным вскармливанием. Об этом на своей странице в Facebook рассказала молодая мама Джейми Саммит.
Видеоняня, купленная на Amazon за $40, позволяла наблюдать за ребёнком одновременно нескольким людям, установившим приложение и подключившимся к устройству через интернет. Также камерой можно было управлять дистанционно, например поворачивать её на 360°.
Однажды Джейми Саммит заметила, как камера начала поворачиваться. Объектив остановился напротив места, где Саммит обычно кормила младенца грудью. Увидев, что на кровати никого нет, хакер повернул камеру обратно к колыбели.
Всякий раз, когда видеоняня меняла положение, женщина думала, что устройством управляет муж. Он действительно подключался к камере, чтобы понаблюдать за сыном. Но именно в этот день Кевин Саммит не заходил в приложение.
Женщина выключила устройство и вызвала полицию, но, когда сотрудник стал наблюдать за действиями видеоняни, приложение заблокировало семью Саммит с сообщением: «Недостаточно прав доступа». По словам женщины, хакер всё слышал и видел полицейского.
Саммит пыталась дозвониться производителям устройства, но в компании не брали трубку. Тогда она поделилась своей историей в Facebook, чтобы предостеречь других пользователей от недобросовестного производителя. Надёжный пароль, по словам Саммит, от взлома не защитил.
Камеры наблюдения на российском рынке в массе своей китайские, с однотипными паролями. Если владелец дома после подключения системы не меняет пароли, что происходит в большинстве случаев, то роботы-программы действительно могут их взломать. Важно здесь и то, что у простых коробочных решений пароль собственника — единственный уровень защиты.
У профессионального же решения для «умного» дома должно быть до шести ступеней защиты. Сюда входят: шифрование, идентификация пользователя по паролю, отпечатку пальца, IP-адресу, MAC-адресу, индивидуальным настройкам системы, известным только хозяину.
Самые продвинутые используют доступ по сетчатке глаза, по распознаванию лица, по «секретной кнопке» (сочетанию действий в приложении, которое знает только собственник).
И если система уже допустила критичный сбой, то единственное решение — полностью заменить оборудование и программное обеспечение. Гарантий, что сбой не повторится, вам никто дать не сможет, поэтому нужно менять поставщика технологий.
Чтобы застраховать себя от взломов, нужно выбирать производителя устройства осмысленно, вникать в тонкости внедрения и не пренебрегать требованиями по самостоятельной защите своей безопасности.
Cбой в работе «умного» дверного звонка
В сентябре 2018 года в Twitter появилась запись жителя Джорджии Би Джей Мэя, который не мог войти в свой дом. Американец установил у входной двери новую разработку Google — «умный» звонок Nest Hello со встроенным микрофоном и динамиком, которые позволяют хозяину общаться с гостем, стоящим у порога. Также гаджет оснащён датчиком и камерой, блокирующими двери от незнакомцев, пытающихся войти в дом.
Неожиданно устройство дало сбой и заблокировало замки, не распознав хозяина дома. Би Джей Мэй открыл мобильное приложение, чтобы прояснить ситуацию, и увидел, что гаджет принял его за Бэтмена. Камера зафиксировала не лицо Би Джей Мэя, а принт на его футболке с персонажем DC.
Сбой в распознавании объекта не причинил вреда владельцу: с помощью PIN-кода он сумел войти в дом. Однако устройством пользуются и дети Мэя, ради которых он и установил «умный звонок» — он считает, что потеря ключей может обернуться куда большими проблемами.
Распознавание лиц — очень востребованная история, поэтому многие компании предлагают свои решения. При этом не все могут обеспечить достойное качество. Отсюда и сбои при изменении внешних данных жильцов дома: в надетой шапке или при отрощенной бороде, например.
Хозяину дома, если он решил внедрить систему распознавания через камеры или домофон, следует внимательно отнестись к тестам программы. Интегратор должен сначала попробовать все максимально возможные варианты внешнего вида жильцов и убедиться, что всё работает корректно.
Ошибка GPS-навигатора
Около полуночи навигатор направил её к спуску для лодок в залив Джорджиан-Бей озера Гурон. Автомобиль полностью погрузился в воду не сразу: девушке хватило времени опустить стекло, взять сумку и доплыть до берега. Выбравшись на сушу, пострадавшая отправилась в ближайшую гостиницу и вызвала полицию.
В 2010 году GPS-навигатор стал причиной ДТП, в котором погиб четырёхлетний ребёнок. По сообщениям BBC News, родители девочки, находясь за рулём Vauxhall Astra, следовали ложным подсказкам навигатора и, не заметив запрещающий дорожный знак, выехали на полосу встречного движения, где их автомобиль врезался в Audi A5.
Удар пришёлся именно на ту сторону, где находился ребёнок. Девочку доставили в больницу, она скончалась через несколько часов.
Вопрос, кто будет нести ответственность в случае причинения вреда машиной человеку, пока остаётся дискуссионным. С одной стороны, за «умные» устройства ответственны предприниматели, которые их реализуют. С другой — разработчики, задающие определённые параметры, на основе которых искусственный интеллект принимает решения и совершает действия.
Можно допустить, что суд признает непрогнозируемые решения искусственного интеллекта форс-мажором, и тогда никто из вовлечённых в процесс реализации такого товара не будет нести ответственность.
Чтобы обезопасить себя, владельцам «умных» устройств следует внимательно читать блок ответственности изготовителя за предлагаемый вам товар. Как правило, производители не несут ответственность за неправильное использование устройства и за повреждения, вызванные несоблюдением техники безопасности.
Это вполне целесообразно, но если производитель полностью снимает с себя ответственность, лучше отказаться от покупки такого устройства либо направить протокол разногласий к заключаемому договору, чтобы ваши права и интересы были учтены.
Если программное обеспечение уже взломали или инновационная разработка дала сбой, следует немедленно обратиться в правоохранительные органы (следственный комитет, прокуратура) и написать заявление о случившемся.
Также не лишним будет направить претензию продавцу и изготовителю «умного» устройства с требованием возместить все затраты. Затем подать гражданский иск в суд за причинение вреда.
Если суд признает производителя или продавца виновными, максимальный срок лишения свободы составит два года за причинение смерти по неосторожности, за причинение тяжкого вреда здоровью по неосторожности — арест до шести месяцев. Злоумышленники, которые совершили взлом, наказываются лишением свободы сроком до семи лет.
Робот-полицейский сбил человека
В 2016 году в Стэнфордском торговом центре в Калифорнии бот весом около 136 кг сбил с ног полуторагодовалого ребёнка, после чего проехался по нему сверху. Мальчик получил ушибы и царапины.
Разработанный в 2015 году стартапом Knightscope из Кремниевой долины робот К5 полностью автономен. Он оснащён различными датчиками, тепловыми сенсорами, лазерным дальномером, камерами с круговым обзором и используется в торговых центрах и полицейских участках, чтобы следить за порядком и сообщать о подозрительных действиях.
Неполадка в работе робота Amazon
Другой бот, «работающий» в распределительном центре компании Amazon в Нью-Джерси, порвал баллончик с 250 мл репеллента для отпугивания медведей. В замкнутом помещении аэрозоль выделил газ, от которого пострадали 24 сотрудника компании.
Они были госпитализированы и прошли лечение в местных больницах. Как сообщают в Amazon, все пострадавшие вернулись к работе в течение суток.
В первую очередь пострадавшему нужно зафиксировать причинённый вред здоровью в любом медучреждении. Затем обратиться к производителю ПО или техники и установить причины сбоя. Нужно собрать максимум информации о том, что произошло, какой вред был причинён и как эти события связаны между собой.
Ведь в случае судебного разбирательства доказать, что именно технический сбой виноват в произошедшем, будет сверхсложно. Если только какая-нибудь «умная» мясорубка не искромсала своего хозяина и полиция не зафиксировала этот факт.
Кстати, обращаться в таких ситуациях в полицию можно только тогда, когда есть подозрения, что техника ведёт себя неадекватно именно из-за взлома, но я думаю, что полиция не отреагирует, потому что просто не знает как.
Собрав доказательства, потерпевший может обратиться в суд и рассчитывать на возмещение морального вреда или расходов на лечение. Проблема в том, что в нашей стране даже за смерть близких в ДТП присваивают копеечные компенсации. А в ситуации с программным сбоем я даже предположить не могу, какой мизерный размер компенсации может назначить суд.
И это одна из причин, по которой люди избегают судебного разбирательства — оно будет стоить недёшево при минимуме отдачи.
Приложение-контрацептив не спасло от 37 абортов
Первое в мире приложение, признанное Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов США средством для контрацепции, обвинили в неэффективности.
Разработка шведского физика Элины Берглунд, приложение Natural Cycles, позволяет женщинам следить за фертильностью с помощью температурного метода. Оформив годовую подписку, пользователь получает термометр, который измеряет температуру с точностью до сотых долей.
Её необходимо измерять сразу после пробуждения и ежедневно вносить данные в приложение. По повышению базальной температуры на 0,25–0,5 градуса Natural Cycles выявляет период овуляции. Объявленная эффективность приложения — 93% при стандартном использовании, 97% при «идеальном».
Однако в январе 2018 года сотрудники Стокгольмского Южного госпиталя подали жалобу на цифровой контрацептив в госорганы, сообщив, что из 668 женщин, обратившихся за услугой прерывания беременности с сентября 2017 года, 37 использовали Natural Cycles.
Государственное фармацевтическое управление Швеции провело проверку, но в итоге специалисты пришли к заключению, что эффективность работы приложения отвечает заявленным компанией 93%.
Браслет, не позвонивший в службу спасения
В конце 2018 года в Twitter английского технологического журналиста Холли Броквелл появилась публикация с историей пользователя, обратившегося за юридическими советами. Несколькими месяцами ранее его бабушка умерла от инсульта у себя дома.
Женщину через пару дней обнаружила уборщица, рядом с покойной лежал специальный браслет, который должен был сообщить экстренным службам и семье владельца об ухудшении состояния здоровья.
Увидев гаджет, внучка покойной обыскала дом и выяснила, что женщина заплатила 1600 фунтов стерлингов (около $2000) за систему оповещения, которая по какой-то причине не работала.
На протяжении недели британка пыталась дозвониться в компанию, поставляющую систему оповещения, но ни один номер телефона не отвечал. Сайт компании был недоступен, но уведомлений о прекращении работы стартапа не было. Беспокоясь за здоровье других клиентов, она обратилась за советом: что можно предпринять в такой ситуации.
История о браслете с системой оповещения говорит нам, что обезопасить себя от таких ситуаций можно только при тщательном выборе поставщика технологий с репутацией, опытом работы, положительными отзывами.
Обращайте внимание и на то, что у качественных решений всегда есть дублирующие каналы передачи информации. Например, устройства, которые передают данные по наземному интернету и дублируют по 3G, 4G.
С точки зрения наших реалий такая ситуация невозможна: ни один стартап не сможет обеспечить направление сигналов в службу спасения в России, так как это исключительно сфера государственного влияния.
Наши законы не позволяют пользовательскому оборудованию как-то взаимодействовать со службой спасения, кроме обычных звонков на короткие номера телефонов.
Более того, нужно понимать, что такого рода техника, спустившаяся до класса потребительских устройств (пульсомеры, тонометры и тому подобное), всегда имеет предупреждение: она не заменяет звонок в экстренные службы, как не заменит врача и специализированное медицинское оборудование.
Умную технику им подавай, лучше бы умом сами обзавелись)
Комментарий недоступен
Комментарий недоступен
Умная техника сбивается, если разработчик учел не все моменты в момент создания этой умной техники, и ничего более.
Комментарий недоступен
Комментарий недоступен
Проблема не технике. Автоматические системы были давным-давно и, конечно же, сбоили. Проблема в том, что с появлением хайпа вокруг "ИИ" (которым стали называть любую продвинутую автоматическую систему) автоматике стали доверять, неявно наделяя её придуманной разумностью.