«Нам не нужна такая критика от компьютера»: браслет от Amazon оценивает внешность обнажённого владельца и тембр голоса

Авторы The Washington Post протестировали браслет Halo и удивились, насколько интимную информацию он собирает. В конспекте — почему устройство скорее помогает Amazon собирать данные, чем стать пользователю здоровым.

В августе 2020 года Amazon выпустила Halo — «умный» фитнес-браслет без дисплея стоимостью $100 (для первых пользователей — $65). Вместе с браслетом идёт полугодовая подписка на приложение, которое стоит $4 в месяц.

С помощью приложения Halo составляет обнажённый 3D-портрет пользователя и сообщает, есть ли у него лишний вес. Также устройство использует микрофон и ИИ, чтобы определять тон голоса владельца.

В отличие от конкурентных Apple Watch и Fitbit, в Halo нет экрана, звука и вибрации. В браслете есть ряд привычных датчиков: они отслеживают физическую активность, частоту сердечных сокращений, сон и температуру кожи. Из нового: фотографии тела и запись голоса пользователя.

Обозреватели Джеффри Фаулер и Хизер Келли проверили браслет на себе. Они сравнили Halo с Apple Watch 6 и Fitbit Sense. В спокойном состоянии устройства дали примерно одинаковые показатели сердечного ритма.

Но во время велосипедной прогулки пиковая частота сердечных сокращений в Halo составила 129 ударов в минуту, в то время как на Apple Watch — 171. Дело в том, что в Halo нельзя вручную установить тип активности: алгоритмы сами анализируют, чем пользователь занят.

Чтобы оценить полноту тела, нужно сделать в приложении Halo четыре фотографии в нижнем белье со всех сторон. На основе изображений ИИ Amazon вычисляет уровень жира в организме владельца. Приложение не учитывает индекс массы тела — основной показатель оценки массы человека в медицине.

Amazon утверждает, что её искусственный интеллект точнее, чем «умные» весы. Разница есть: весы Body+ от Withings показали у Фаулера на 5% меньше жировых отложений, чем Halo. Но обозреватели не дали точных данных. Также устройство ещё не одобрено Агентством Минздрава и социальных служб США.

Фаулер и Келли считают, что 3D-модель в приложении может оскорбить пользователя, так как Halo предлагает несколько слайдов с изображениями человека с большим или меньшим весом.

Но главная проблема, по мнению обозревателей, в том, что Halo хоть и даёт оценку телу, но не предлагает персональных рекомендаций по исправлению чего-либо.

Анализ тона голоса ещё сомнительнее, отмечают авторы The Washington Post. Устройство обучается распознавать голос владельца на нескольких примерах фраз. После оно постоянно подслушивает за пользователем. Отключить микрофон можно только временно — с помощью кнопки.

Halo оценивает голос по четырём показателям: высокий или низкий уровень «энергии», положительная или негативная интонация. Между этими точками приложение даёт свою оценку. Например, при низкой энергии и негативе Halo квалифицирует голос как «обескураженный».

Amazon заявила, что потратила годы на обучение своего ИИ и постаралась устранить любые предубеждения алгоритма. Для этого сотрудники классифицировали свои голосовые записи.

Обозреватели отметили, что Halo часто неверно интерпретировал тон разговора. Голоса Фаулера и Келли в спокойном состоянии он отмечал как «сосредоточенные» и «заинтересованные». При низкой частоте голоса речь Фаулера приложение оценивало как «печальную», «строгую», а Келли— «упрямую», «властную» и так далее.

В этой функции, по мнению авторов, проблема в том, что приложение не даёт интерпретаций голоса — непонятно, для чего нужны эти маркеры, если нельзя расшифровать эмоциональное состояние пользователя. Также Halo не советует, что, к примеру, делать владельцу, если голос грустный.

Мотивационная система в приложении тоже слабая, считают обозреватели. Пользователь должен набрать 150 баллов в неделю — примерно 150 минут умеренных упражнений. Однако минуты не переводятся точно в баллы, а время бездействия пользователя уменьшает очки.

Amazon заявляет, что Halo не отправляет в «облако» записи голоса, как это делают колонки Echo. Браслет отправляет записи на телефон для анализа, а затем удаляет записи с обоих устройств. Фотографии же устройство загружает в облако Amazon для обработки, а затем удаляет оттуда.

В политике конфиденциальности Halo говорится, что Amazon не будет продавать данные, делиться ими без разрешения или использовать их для таргетинга.

Но при этом Amazon может анонимно собирать данные о частоте сердечных сокращений, активности, сне и тонусе владельцев Halo, отмечают авторы. По их мнению, компания может использовать эту информацию для улучшения алгоритмов и последующих health-устройств.

#amazon #halo #health