Machine learning
Alexey Karlov
163

Этика AI и ответственность компаний и брендов, его «приручивших»

На днях в сети довольно широко разошелся случай, когда чат-бот одного известного банка предложил своему клиенту, я цитирую: «пальцы бы вам отрезать».

В закладки

Многих это, мягко говоря, возмутило, а кто-то из комментирующих, как и сам банк, наоборот, написали, что не о чем тут беспокоиться, у робота бывает…

Но моя заметка не про баг в чат-боте и не про дальнейшие комментарии службы поддержки и их оценку другими пользователями, а про сам прецедент взаимодействия робота и человека в уже привычной очень многим обстановке (среде).

Обычно подобной работой занимались и занимаются обученные call centre или стажеры. И у тех, и у других кроме надежды на собственное благоразумие не предлагать клиентам что-то себе отрезать, были варианты жесткого контроля: когда им вводили, например, список стоп-слов; и вариант очень жесткого контроля: когда можно было отвечать только по скриптам и больше никак.

Как бы поступили раньше, если что-то некорректное сказал сотрудник магазина? Вероятно, клиент потребовал бы жалобную книгу, потом организация могла оштрафовать сотрудника и внести коррективы в обслуживание. Далее магазин мог принести извинения клиенту. То есть ошибку совершал сотрудник и его могли уволить и/или оштрафовать, а отвечала за всё еще и компания.

Предположу, что в штатах за такой ответ компанию могли бы засудить, но не уверен, т.к. не юрист. В России же, судя по комментарию юриста, ничего особо не сделать:

«С правовой точки зрения, на моральный вред не тянет, нравственных и эмоциональных страданий не доказать ( читай — справку у Врача не получишь). Угрозы жизни и здоровью в явном виде тоже нет. Перспективы нет никакой...» (дальше там про жалобы регулятору и стандарты ЦБ, но это уже слишком - не закрывать же банк из-за сотрудника или бота)

А как же быть пользователю и компании сейчас? Когда коммуникация строится через чат-бота, в котором нейронка, по факту, непредсказуема даже для её создателей?

Про тему неких кодексов и правового статуса AI уже высказывались, например, и вездесущий Маск, и Дмитрий Гришин. Но они говорили о планах на будущее, а сейчас нейронка стала масс маркетом, люди не удивляются наличию робота в коммуникациях, почти не обращают внимание на то, что порой он отвечает не в тему, но справедливо обижаются на бренд, когда он им хамит. Ситуация на самом деле еще сложнее: робот неосознанно может навредить.

Раз такие случаи происходят на массовом рынке, то не пора ли еще раз повторить и более четко внедрить законы робототехники Айзека Азимова? А может и их пора немного обновить и/или сделать обязательными для внедрения и внутренних правил компаний?

"AI may not injure a human being (threaten or insult a person) or, through inaction, allow a human being to come to harm"

Материал опубликован пользователем.
Нажмите кнопку «Написать», чтобы поделиться мнением или рассказать о своём проекте.

Написать
{ "author_name": "Alexey Karlov", "author_type": "self", "tags": [], "comments": 2, "likes": 5, "favorites": 3, "is_advertisement": false, "subsite_label": "ml", "id": 94566, "is_wide": true, "is_ugc": true, "date": "Wed, 27 Nov 2019 19:22:04 +0300", "is_special": false }
0
{ "id": 94566, "author_id": 1641, "diff_limit": 1000, "urls": {"diff":"\/comments\/94566\/get","add":"\/comments\/94566\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/94566"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 332941, "last_count_and_date": null }
2 комментария
Популярные
По порядку
2

И смешно, и грустно. AI у людей же обучается.

"На зеркало неча пенять, коли рожа крива..."

Ответить
0

у меня немного шире вопрос - про этику и/или рамки обучения тоже 

Ответить
{ "page_type": "article" }

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "Article Branding", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cfovx", "p2": "glug" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Баннер в ленте на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "disable": true, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } }, { "id": 20, "label": "Кнопка в сайдбаре", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cgxmr", "p2": "gnwc" } } } ] { "page_type": "default" }