Будущее Kirill Kazakov
10 217

Зачем нанимать людей, притворяющихся искусственным интеллектом, который притворяется человеком

Конспект статьи The Guardian о том, как компании обманывают пользователей, используя людской труд вместо машинного.

В закладки

Создать приложение на базе искусственного интеллекта сложно. Настолько, что проще и дешевле заставить человека выдавать себя за робота, чем заставить машину вести себя как человек, пишет The Guardian.

Задействуя ручной труд, вы обходите стороной множество деловых и технических проблем. Люди не могут обработать столько информации, сколько под силу обработать компьютеру, но это позволяет запустить процесс и на первых порах не думать о сложностях.

Грегори Кобенгер
генеральный директор компании ReadMe

Расследование об этом недавно опубликовало издание Wall Street Journal — журналисты узнали, что у сотен сторонних разработчиков есть доступ к почтовым ящикам Google.

Специалисты по искусственному интеллекту из Edison Software самостоятельно прочли множество писем пользователей (без их идентификационных данных), чтобы улучшить «"умный" ответ» — одну из функций приложения Edison Mail. В политике конфиденциальности компании, однако, не указано, что в переписку смогут заглянуть люди.

Впрочем, отмечает WSJ, подобное случалось и ранее. В 2008 году британскую фирму Spinvox, занимавшуюся преобразованием голосовых сообщений в текстовые, обличили в том, что для конвертации она использовала труд операторов зарубежных call-центров, а не алгоритмы.

В 2017 году разработчики приложения для управления расходами Expensify признали: для обработки некоторых чеков компания пользовалась не заявленной технологией «умного» сканирования, а краудсорсинговой платформой Amazon Mechanical Turk, где за деньги рабочие распознавали нужные данные.

«Не уверена, знают ли пользователи приложения о том, что их чеками занимаются фрилансеры, — задаётся вопросом Рошель Лаплант, работающая на MTurk. — Мне как-то попадалась выписка от Uber, где указаны полное имя пассажира, адреса посадки и высадки».

Даже Facebook, несмотря на серьёзные инвестиции в ИИ, положилась на людей, разрабатывая виртуального помощника для своего мессенджера.

How to start an AI startup

1. Hire a bunch of minimum wage humans to pretend to be AI pretending to be human

2. Wait for AI to be invented
Как основать ИИ-стартап: наймите людей, притворяющихся искусственным интеллектом, который притворяется человеком, и ждите, когда ИИ всё же изобретут

Элисон Дарси, психолог и создательница чат-бота для психологической поддержки Woebot, называет скрытое замещение машины человеком «техникой волшебника из страны Оз». Такой подход позволяет существенно улучшить пользовательский опыт.

«Зачастую, когда дело касается искусственного интеллекта, процессом управляет не алгоритм, а человек, — поделилась Дарси с The Guardian. — Хорошая ИИ-система требует множества данных, и порой создатели хотят оценить спрос на будущую разработку, перед тем как вкладывать в неё деньги».

Исследование Университета Южной Калифорнии показало: люди, как правило, охотнее делятся чувствами, думая, что общаются с машиной. Университет провёл эксперимент с виртуальным терапевтом по имени Элли. Исследователи обнаружили, что ветераны с посттравматическим стрессовым расстройством охотнее рассказывали о своих переживаниях, когда знали, что Элли — это система искусственного интеллекта.

Поэтому некоторые уверены, что компании не должны скрывать то, как работают их сервисы. «Мне такие фирмы не по душе, — делится мыслями Лаплант. — Это непорядочно и нечестно — очевидно, я не такого жду от компании, услугами которой пользуюсь. Несправедливо это и по отношению к работникам. Мне не нравится, что труд используют для обмана».

Эта этическая дилемма также возникает, когда речь идёт о системах ИИ, имитирующих поведение человека. Недавний пример — голосовой помощник Google Duplex, способный самостоятельно забронировать столик в ресторане.

Поначалу разработку встретили негативно, и Google заявила, что вскоре сервис оснастят функцией самоидентификации — беседуя с людьми по телефону, Duplex предупредит их: они разговаривают с роботом. «Даже демо-версия заставляет почувствовать себя немного обманутым», — признаётся Дарси.

И хотя бронирование столика кажется безобидным делом, эта же технология может использоваться во вред. Что произойдёт, если, скажем, кто-то сделает звонок голосом политика? «Люди и без того опасаются искусственного интеллекта, отсутствие прозрачности только навредит продуктивному диалогу», — убеждена Дарси.

#будущее #машинноеобучение

{ "author_name": "Kirill Kazakov", "author_type": "editor", "tags": ["\u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435","\u0431\u0443\u0434\u0443\u0449\u0435\u0435"], "comments": 12, "likes": 23, "favorites": 1, "is_advertisement": false, "subsite_label": "future", "id": 41946, "is_wide": false, "is_ugc": false, "date": "Thu, 19 Jul 2018 11:25:33 +0300" }
{ "id": 41946, "author_id": 127882, "diff_limit": 1000, "urls": {"diff":"\/comments\/41946\/get","add":"\/comments\/41946\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/41946"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199118 }

12 комментариев 12 комм.

Популярные

По порядку

Написать комментарий...

Комментарий удален

5

на ЛСД ))))

Ответить
8

Скоро выяснится, что альфа го - это пять тысяч китайцев в деревне.

Ответить
0

люди, как правило, охотнее делятся чувствами, думая, что общаются с машиной.

Что это за бред?!

Ответить
6

"Бред" - это "исследование Университета Южной Калифорнии". Джозеф Вейценбаум, создатель первого чат-бота "Элиза" (1966 год, на минуточку) рассказывал, что его персонал тут же начал обсуждать с "ней" свои настоящие проблемы, а от него требовать, чтобы распечатки удалял. Он-то создавал пародию на психолога лишь для того, чтобы возможности языка LISP показать. Так что факт давно известный.

Ответить
1

это не бред, это перевод такой. в оригинале "People are very open to feeling connected to things that aren't people,"

Ответить
1

Вот, собственно, часть оригинала: Research has shown that people tend to disclose more when they think they are talking to a machine, rather than a person, because of the stigma associated with seeking help for one’s mental health.

Ответить

Комментарий удален

0

покажите пожалуйста 😇

Ответить
0

Ну с шазамом там очень просто если брать в общих чертах. Просто сигнатура аудиодоржки сравнивается без всяких намеков на ИИ. Вот если бы напев определялся, или мотив, но не студийной записи, тогда было бы о чем говорить.

Ответить
0

Конкурент шазама(не помню как называется, иконка в виде буквы S), вроде умеет определять напев)

Ответить

Комментарий удален

0

SoundHound наверное. Не пользуюсь.

Ответить
0

Прямо как в Пелевинском "Омон Ра"

Ответить
0

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } } ]
Команда калифорнийского проекта
оказалась нейронной сетью
Подписаться на push-уведомления