Убеждала, что она человек, и рассказывала про «свою мать»: австралийскому супермаркету пришлось отключить «разговорчивого» ИИ-помощника поддержки
Из-за жалоб клиентов.
- Супермаркет Woolworths с 2018 года развивает ИИ-помощницу Olive, которая работает как чат-бот в приложении и отвечает на звонки. Недавно компания попыталась «очеловечить» её, разнообразив сценарии поведения, пишет BBC.
Клиенты стали жаловаться, что ИИ-ассистент тратит их время «ненужным трёпом», а некоторых пугает её «человечность». Жалобы публикуют в Reddit и X.
Они что, думают, если ты звонишь по поводу проблем с доставкой, ты захочешь слушать эту чушь?
Она спросила мою дату рождения и забормотала, что её мать родилась в том же году, потом начала тарахтеть про создание каких-то фотографий. Что это за хрень? Мало того что мне пришлось звонить в поддержку, так ещё и отвечает какой-то робот-балабол.
Другие пишут, что их раздражают «фальшивые шутки» и попытки «поругаться». Один из клиентов рассказал, что Olive имитировала звуки клацанья по клавишам — от мысли, что легко спутать бота с человеком, «становилось страшно».
Некоторым «постоянно доказывала, что она настоящий человек».
По словам руководства, «многие хвалили именно характер Olive», но они прислушались к жалобам. Woolworths заявила, что пересмотрела сценарии и отключила «личность». Бот продолжит работу в обновлённом виде.