Рубрика развивается при поддержке HP logo Advertisement

«Нам не нужна такая критика от компьютера»: браслет от Amazon оценивает внешность обнажённого владельца и тембр голоса Статьи редакции

Авторы The Washington Post протестировали браслет Halo и удивились, насколько интимную информацию он собирает. В конспекте — почему устройство скорее помогает Amazon собирать данные, чем стать пользователю здоровым.

Приложение использует ИИ для оценки тембра голоса владельца Джеффри Фаулер, The Washington Post

В августе 2020 года Amazon выпустила Halo — «умный» фитнес-браслет без дисплея стоимостью $100 (для первых пользователей — $65). Вместе с браслетом идёт полугодовая подписка на приложение, которое стоит $4 в месяц.

С помощью приложения Halo составляет обнажённый 3D-портрет пользователя и сообщает, есть ли у него лишний вес. Также устройство использует микрофон и ИИ, чтобы определять тон голоса владельца.

Надеюсь, наш тон ясен: нам не нужна такая критика от компьютера. Halo собирает самую интимную информацию, которую мы видели от устройства для здоровья, и эти данные в меньшей степени используются для функций браслета. Это устройство гораздо лучше помогает Amazon собирать данные, чем стать вам здоровым и счастливым.

The Washington Post

В отличие от конкурентных Apple Watch и Fitbit, в Halo нет экрана, звука и вибрации. В браслете есть ряд привычных датчиков: они отслеживают физическую активность, частоту сердечных сокращений, сон и температуру кожи. Из нового: фотографии тела и запись голоса пользователя.

Обозреватели Джеффри Фаулер и Хизер Келли проверили браслет на себе. Они сравнили Halo с Apple Watch 6 и Fitbit Sense. В спокойном состоянии устройства дали примерно одинаковые показатели сердечного ритма.

Но во время велосипедной прогулки пиковая частота сердечных сокращений в Halo составила 129 ударов в минуту, в то время как на Apple Watch — 171. Дело в том, что в Halo нельзя вручную установить тип активности: алгоритмы сами анализируют, чем пользователь занят.

Оценка веса пользователя может оскорбить и не даёт рекомендаций

Чтобы оценить полноту тела, нужно сделать в приложении Halo четыре фотографии в нижнем белье со всех сторон. На основе изображений ИИ Amazon вычисляет уровень жира в организме владельца. Приложение не учитывает индекс массы тела — основной показатель оценки массы человека в медицине.

Amazon утверждает, что её искусственный интеллект точнее, чем «умные» весы. Разница есть: весы Body+ от Withings показали у Фаулера на 5% меньше жировых отложений, чем Halo. Но обозреватели не дали точных данных. Также устройство ещё не одобрено Агентством Минздрава и социальных служб США.

Фаулер и Келли считают, что 3D-модель в приложении может оскорбить пользователя, так как Halo предлагает несколько слайдов с изображениями человека с большим или меньшим весом.

Но главная проблема, по мнению обозревателей, в том, что Halo хоть и даёт оценку телу, но не предлагает персональных рекомендаций по исправлению чего-либо.

3D-модель пользователя Halo Amazon

Приложение часто даёт некорректную оценку тона голоса

Анализ тона голоса ещё сомнительнее, отмечают авторы The Washington Post. Устройство обучается распознавать голос владельца на нескольких примерах фраз. После оно постоянно подслушивает за пользователем. Отключить микрофон можно только временно — с помощью кнопки.

Halo оценивает голос по четырём показателям: высокий или низкий уровень «энергии», положительная или негативная интонация. Между этими точками приложение даёт свою оценку. Например, при низкой энергии и негативе Halo квалифицирует голос как «обескураженный».

Amazon заявила, что потратила годы на обучение своего ИИ и постаралась устранить любые предубеждения алгоритма. Для этого сотрудники классифицировали свои голосовые записи.

Пример оценки тембра голоса в приложении Halo Джеффри Фаулер, The Washington Post

Обозреватели отметили, что Halo часто неверно интерпретировал тон разговора. Голоса Фаулера и Келли в спокойном состоянии он отмечал как «сосредоточенные» и «заинтересованные». При низкой частоте голоса речь Фаулера приложение оценивало как «печальную», «строгую», а Келли— «упрямую», «властную» и так далее.

Само существование контролирующего тон ИИ, который судит такими терминами, кажется сексистским. Amazon создала автоматизированную систему, которая говорит: «Эй, милая, почему ты больше не улыбаешься?»

The Washington Post

В этой функции, по мнению авторов, проблема в том, что приложение не даёт интерпретаций голоса — непонятно, для чего нужны эти маркеры, если нельзя расшифровать эмоциональное состояние пользователя. Также Halo не советует, что, к примеру, делать владельцу, если голос грустный.

Мотивационная система в приложении тоже слабая, считают обозреватели. Пользователь должен набрать 150 баллов в неделю — примерно 150 минут умеренных упражнений. Однако минуты не переводятся точно в баллы, а время бездействия пользователя уменьшает очки.

Использует ли эти данные Amazon

Amazon заявляет, что Halo не отправляет в «облако» записи голоса, как это делают колонки Echo. Браслет отправляет записи на телефон для анализа, а затем удаляет записи с обоих устройств. Фотографии же устройство загружает в облако Amazon для обработки, а затем удаляет оттуда.

В политике конфиденциальности Halo говорится, что Amazon не будет продавать данные, делиться ими без разрешения или использовать их для таргетинга.

Но при этом Amazon может анонимно собирать данные о частоте сердечных сокращений, активности, сне и тонусе владельцев Halo, отмечают авторы. По их мнению, компания может использовать эту информацию для улучшения алгоритмов и последующих health-устройств.

{ "author_name": "Вадим Скворцов", "author_type": "editor", "tags": ["health","halo","amazon"], "comments": 29, "likes": 21, "favorites": 19, "is_advertisement": false, "subsite_label": "tech", "id": 186168, "is_wide": false, "is_ugc": false, "date": "Fri, 11 Dec 2020 13:45:00 +0300", "is_special": false }
Advertisement
0
29 комментариев
Популярные
По порядку
Написать комментарий...

Нравственный Макс

36

Оценка веса пользователя может оскорбить

Но если ты реально бегемот — чем и почему надпись «Обнаружен бегемот» на стартовом экране устройства может тебя оскорбить?

Ответить
8

+

Отражение в зеркале никого не оскорбляет? (Заранее перед всеми извиняюсь, правда интересно).

Другое дело, если приложение даёт некорректную информацию, в таком случае претензии логичные.

Ответить
2

"Отражение в зеркале никого не оскорбляет? (Заранее перед всеми извиняюсь, правда интересно)."

Речь ведь не в том, что видят - а в том, как интерпретируют.

Обратите внимание, люди с лишним весом уже выработали специальный лексикон, такой новояз, в котором их вес определяется как нормальный и даже правильный (хотя лишний вес вреден для сердца и здоровья в целом), а стройные люди интерпретируются как с отклонениями.

Ответить
2

Вот если бы они заблокировали такому бегемотику мороженки всякие покупать с кексиками, а тож наверное наоборот еще и со скидкой, купонами и бесплатной доставкой.

Ответить
5

наоборот это повод побольше ему кексиков продать, так как видно что он их любит

Ответить

Нравственный Макс

Шизоидная
0

Кстати, да, очень разумная мысль 👍

Ответить
2

Любопытная система рекомендаций получится. Они будут знать активность, попытаются понять уровень настроения и от того выстраивать систему рекомендуемых товаров. 

Это как с их кнопкой, которая клеилась на холодильник или стиралку и при нажатии можно было заказать свои товары автоматически. А тут они хотят зайти дальше. 

И как мне кажется, вопрос политкорректности в данном случае не в рисовании модели с "жирком", а в том, что человек с избыточным весом может быть заложником нарушений обмена веществ, гормональных каких то сбоев, проблем с щитовидкой.

И если такому человеку на диете, которая ему естественным образом не легко дается, показывать и "мотивировать" к покупке товары, которые ему не стоит употреблять – вот тут и будет стоять вопрос политкорректности. 

Ответить
0

Вот этим и может оскорбить!

Нет, чтобы сказать "просто это кость у тебя широкая... стала!"

Или "бодипозитив сегодня в моде", "я принимаю тебя любой", или просто "краааасотка!"

Ответить
12

Итак, в Washington Post начали догадываться, что смарт-браслеты нужны их производителям не для того, чтобы помогать людям... 

Ответить
1

WaPo владеет Безос, так что это скорее перформативное посыпание головы пеплом, а не журналистская критика.

Ответить
0

В лучшем случае. В худшем — отвлечение внимания 

Ответить
7

Ну предупреждали же, что не стоит унижать роботов. Вот и ответочка подоспела: «чего приуныл, жирный мешок с костями».

Ответить
5

Смысл от оценки голоса?

Ответить
2

Возможно, такая оценка сейчас не полностью адекватна.
Но принципиально, она очень может быть интегральной и информативной.

Несколько примеров:
- люди, не слышавшие знакомый/личностно информативный голос после 30 лет разлуки, часто легко узнают его по телефону;
- пример из фильма (до мобильная эпоха): бабушка подходит к звонящему телефону, затем подзывает гостя, ухажера внучки (мы знаем, что парень из круга гангстеров, а бабушка не знает);  когда парень выходит в коридор поговорить, бабушка заговорщецки-брезгливо сообщает своей семье: голос звонящего - скрипучий, как сухой цемент;
- во многих западных колл-центрах доплачивают 25% за "Счастливый голос".

Ответить
5

Лучше бы они эту 3D модель пользователя использовали для подбора одежды.

Ответить
0

Скоро это будет. Они уже готовят свои вещи производить.

Ответить
4

Люди уже сами готовы платить деньги, чтобы всю личную информацию отдавать корпорациям. Неужели о последствиях никто не задумывается?

Ответить
0

"Приложение не учитывает индекс массы тела" - ну как бы фото более информативны, а "индекс массы тела" давным давно спорный и не является точным вообще никак. Это чуть более точно, чем "женщина должна быть 90-60-90"

То, что кого-то могут оскорбить слайды "я потолще, я стройнее" - называется "на что бы обидеться?", хотя я не понимаю зачем вообще эти слайды. И про "тон неверное распознает": но ведь спокойный тон человека при разговоре и есть "сосредоточенный", "заинтересованный" - опять же не пойму зачем эта информация в спортивном трекере.

Так же не понимаю зачем фитнес-браслету без экрана постоянно подслушивать за мной...

В общем, претензии к браслету по функционалу надуманы, а вот сомнения по приватности и использовании данных очень даже имеют место быть

Ответить
0

Это первый шаг к песанал хьюмен таргет. Браслет снимает твое состояние, ты смотришь в смартфон/комп/тв-стримминг и тебе выдается на твой потухший голос, например, таблетки для счастья, пояс для похудения и тп. Причем это подбирается в самую эмоциональную фазу, когда «клиент созрел» для покупки. Спорт и здоровье в этом устройстве совсем не главное. А дальше можно анализировать частые повторы в речи, типа - «о! Вышла новая плойка», «а ты пробовал ее», «кто во что рубится сегодня и тп» - это в идеале, но базово, уловив - «бахнуть бы пивка сейчас», вы получите в рекомендациях ближайший бар с «офигенными» скидками

И тп

Ответить
0

На самом деле такое уже есть, только с мобильниками.Возможно это шизофрения, но порой ты не ищешь это в интернете, а только разговариваешь с друзьями ,а тебе уже рекламу предлагают

Ответить
0

Мы,люди недобрые, везде воюем  и в бизнесе тоже. До сих пор волчий закон действует. И все это для денег. Офигеть!

Ответить
0

Хочу добавить, что такой браслет в жизни не буду носить, даже если подарят. 

Ответить
0

Кто знает, аудиоверсию статей на vc.ru чел читает или ИИ сервис какой?

Ответить
0

либо я отстал ои жизни, либо Я сильно продвинулся в синтезе. пока нашел только беспонтовые синтетические голоса в примерах от Я, в т.ч. в статье про озвучку статей на вс

Ответить
0

" повесь на себя датчик, носи его круглосуточно
и еще плати мне 5 баксов в месяц.".

Ответить
0

короче, тестировал кто-то жирный.
интересно, а Halo может определить, что у тебя в данный момент оргазм?

Ответить
0

Подходишь утром к зеркалу и слышишь такие фразы, а потом рекламу: Для мужчин: 1) Эй жирный смотри какое пузо отростил,соседний спортзал тебя ждёт. 2) УУ пипка какая маленькая турбонасос поможет тебе это исправить. Для женщина: 1) ХА ХА 26 лет а сиськи уже повисли, синяя изолента(скотч) в соседнем строительном магазине тебя спасёт. 2) Ты ляхи свои видела, они жирнее чем курочка гриль которую ты вчера ела, обруч в магазине у Жени, поможет тебе это исправить.

Ответить
0

Если подумать, то продукт хороший, но требует доработки. Когда-нибудь по голосу ИИ научится понимать что человек встревожен или находится во опасности и будет высылать помощь.

Ну, а по внешности - добавить комплиментики или рекомендации и все. Думаю сыр бор в том, что жирдяи расстраиваются из-за того, что в очередной раз им напоминают факт - ты жирдяй. (я сам если что не худышка)

Ответить

Комментарии

null