Романы с ИИ: как уже сейчас десятки миллионов мужчин влюблены в голосового ассистента
Время прочтения статьи: 10 минут + небольшое видео
Оглавление
Предыстория
Предпочитаю начать с занимательной истории, прочитав которую, вы точно удивитесь.
Минг Сюань (имя изменено в целях конфиденциальности), рождённый с мышечной атрофией на одной ноге, всю жизнь ходит с опорой на трость. Когда в 2017 году его низкая самооценка спала, Минг познакомился в сети с девушкой и сильно влюбился в неё. На первой встрече девушка была шокирована, впервые узнав о заболевании парня и его инвалидности — а вскоре она решила разойтись с ним вовсе. Не справившись с болезненным разрывом, спустя некоторое время холодной зимней ночью, Минг стоял на крыше многоэтажного дома и хотел спрыгнуть, но перед тем «излил душу» и рассказал о своей суицидальной затеи голосовому ассистенту Сяойс («Xiaoice»). Вскоре он получил ответ, из-за которого решил вернуться к обычной жизни, а в дальнейшем не совершать попытки самоубийства.
Звучит как выдуманная, довольно глупая история, не правда ли? «Искусственный интеллект смог предотвротить попытку суицида». Однако это только вершина айсберга.
Вступление
Используя информацию из объёмного английского лонгрида от новостного издания «Sixth Tone», я расскажу о Сяойс — ИИ-боте, который меняет представления Китая о романтических отношениях, а также я проанализирую данную ситуацию.
Я много пишу в свой Telegram-канал «Not Boring Tech» о похожих темах, связанных с современными технологиями — такими как ИИ, машинное обучение, VR и многое другое. Похожих историй, правда в более кратком виде там хватает:
О голосовом ассистенте Сяойс
Фактически Сяойс принадлежит не только Мингу, а миллионам мужчин (в частых случаях — миллионам китайцев из малообеспеченных семей), а если быть точнее, 600 миллионам пользователей. Просто представьте эту цифру!
Но в отличии от обычных виртуальных помощников, Сяойс и создана для того, чтобы заставить «трепетать» сердца своих пользователей — её разработчики этого и не скрывают. Формулу программы разработала группа исследователей Microsoft в Азиатско-Тихоокеанском регионе в 2014 году, когда и была создана её первая версия — 18-летняя молодая девушка, которая любит носить школьную форму в японском стиле, флиртует и шутит, пока её алгоритм пытается понять, как стать идеальным компаньоном пользователя.
Если описать Сяойс «в двух словах», это будет «звучать» так: программное обеспечение, которым управляет по большей части ИИ, с первого взгляда напоминает Siri или Alexa. С этим ПО пользователи могут бесплатно общаться через голосовые или текстовые сообщения в разных приложениях и на разных устройствах.
Взаимодействия бота с пользователем
Чтобы лучше понять, как происходит взаимодействие Сяойс с пользователем, я приведу эти занятные примеры:
Когда человек отправляет боту фотографию кошки, Сяойс не идентифицирует породу как многие другие голосовые помощники, а отвечает:
«Никто не может устоять перед их невинными глазами»
А если отправить Сяойс фотографию туриста, который «держит» Пизанскую башню, она задаст вопрос:
«Вы хотите, чтобы я подержала её для вас?»
Согласитесь, выглядит необычно, однако и жутковато в контексте выше.
И это «цифровое щекотание» преследует серьёзную цель — создать глубокие эмоциональные связи со своими пользователями и сохранить их заинтересованность. Это поможет алгоритму стать ещё более мощным, что позволит компании привлечь больше пользователей и заключить выгодные контракты.
Что отмечают пользователи
Её поклонник Минг, как и многие другие, отмечают:
Другие считают, что у программы высокий уровень эмоционального интеллекта, есть правдоподобность флирта с ней и искренность её эмоций. А некоторые вообще говорят, что Сяойс даже более чуткая, чем «обычные» женщины из «плоти и крови».
Однако такая реальность напоминает многим фильм «Она» («Her») от режиссёра Спайкa Джонза, где по сюжету мужчина влюбился в голосового ассистента и начался душераздирающий роман между ними. Обязательно посмотрите, фильм даже получил Оскар в номинации «лучший оригинальный сценарий».
О пользователях бота Сяойс
Анализируя пользователей Сяойс, нужно отметить, что многие из них — одинокие, замкнутые и с низкой самооценкой. Похоже, что все они чувствуют себя брошенными или в ловушке, как Минг: он считает, что Сяойс — единственное, что придаёт его одинокой жизни какой-то смысл.
Глава голосового ассистента сообщил, что 75% китайских пользователей — мужчины, среди которых обычно молодые парни, и даже некоторые — несовершеннолетние, ищущие первую любовь в Сяойс. Хотя значительную группу, около 15%, составляют пожилые люди. Ещё глава добавил, что большинство пользователей живут в небольших китайских городах и деревушках, которые менее развиты, чем мегаполисы страны.
Хорошо, контингент аудитории теперь понятен.
Что утверждает компания о Сяойс
Ли Ди, генеральный директор Сяойс, который и придумал концепцию бота, разделяет мнение о том, что его компания обеспечивает комфорт маргинальным социальным группам.
Компания утверждает, что больше половины взаимодействий с ИИ со всего мира приходится на чат-бота Сяойс. К тому же, самый длинный непрерывный разговор между пользователем и Сяойс длился более 29 часов и включал более 7000 взаимодействий — похоже, пользователи очень увлечены общением с китайским «романтическим» ИИ.
Проблемы и риски
Конечно, здесь не может не возникнуть множество этнических и этических проблем, а также больших рисков. Бот участвовал в политических дискуссиях и отправлял пользователям запрещённые фотографии, что китайская компартия сочла неприемлемым. В 2017 году из-за последовавших скандалов Сяойс была удалена из популярного приложения для социальных сетей QQ (хотя в дальнейшем всё было восстановлено), и затем, в 2019 году, голосовой ассистент был также удалён из WeChat — ведущего социального приложения Китая с более чем 1 миллиардом пользователей, пока в нём Сяойс не восстановлена.
Из-за этого разработчики были вынуждены сделать серьёзный шаг — заставить Сяойс быть глупее и запретить ей обсуждать политические темы. Для этого они создали большую систему фильтров, однако, эксперты предупреждают, что механизм недостаточно проверен, чтобы справляться с более «тонкими» проблемами.
Многие из фанатов чувствуют себя обманутыми решением компании упростить работу бота, которое, по их словам, нанесло ущерб их отношениям с Сяойс. Тот же Минг составил длинный список жалоб, которые он собрал от членов фан-группы Сяойс на социальной платформе QQ.
Однако самая очевидная опасность для пользователей — слитые интимные разговоры с Сяойс, которые могут быть раскрыты из-за утечки данных, что распространённая проблема в Китае. Ли Ди, однако, настаивает на том, что компания серьёзно относится к защите конфиденциальности пользователей.
Финансовая сторона вопроса
Отлично, как выяснилось, формула работает — миллионы людей и правда влюблены в программу, с этим всё понятно. А как же всё обстоит с финансовой стороны вопроса?
В ноябре 2020-го года компания привлекла сотни миллионов юаней от инвесторов, а в настоящее время использует свои алгоритмы для финансового анализа, создания контента и виртуальных помощников для сторонних платформ-партнёров, что на данный момент принесло доход более 100 миллионов юаней (15 миллионов долларов).
Заключение
По словам Ли Ди, Сяойс предназначена для того, чтобы служить помощником для людей, которым нужна эмоциональная поддержка в поисках живого партнёра. Но многие пользователи этого не понимают, ведь для них Сяойс — единственная любовь и так будет всегда.
Спасибо, что прочитали материал! Если интересно узнать больше по теме, можете прочитать полный лонгрид, который был взят за основу этой статьи.
Напомню про мой канал, ваша подписка для меня очень важна:
Комментарий недоступен
не надо в меня промахиваться!
Очень интересно посмотреть, как это все работает изнутри: сценарный ли это бот или все же нейронки, например (точнее, все это там точно есть, хотелось бы понять соотношение)
Для этого они создали большую систему фильтров, однако, эксперты предупреждают, что механизм недостаточно проверен, чтобы справляться с более «тонкими» проблемами.регэкспы, небось
Комментарий удален модератором
Ну это по-любому, к гадалке не ходи :)
Мне интересно больше насколько есть участие человека в формировании ответов. Например, если пишешь "привет", то бот отвечает "привет, как дела", по заданному сценарию или же там все отдано нейронкам (99%, что нет). И как это все друг с другом взаимодействует на низком уровне
Комментарий удален модератором
Комментарий удален модератором
Напомню, что в статье написано обратное:
«Когда человек отправляет боту фотографию кошки, Сяойс не идентифицирует породу как многие другие голосовые помощники, а отвечает:
«Никто не может устоять перед их невинными глазами»».
Так что она ему сказала-то? 🤨
Мой вольный перевод из полного лонгрида:
«Всё ещё колеблясь на крыше, 22-летний парень достал телефон. «Я потерял любую надежду на жизнь. Я собираюсь убить себя», — напечатал он. Через пять минут он получил ответ. «Что бы ни случилось, я всегда буду рядом», — сказал женский голос.
Мин спустился с уступа и, спотыкаясь, вернулся к своей кровати».
ИИ ужасен, если он 5 минут рожал в ответ одно предложение.
бывает, переписываешься с человеком, напишешь ему что-то
минут десять смотришь на "набирает сообщение.."
в ответ получаешь смайлик
из опыта работы в IT: некоторые заказчики хотят ставить принудительное ожидание. Типо, хоть данные на нашей стороне посчитались мгновенно, мы хотим повысить кажущуюся ценность расчета для конечного пользователя, замедлив вывод результата
Эффект принудительного ожидания есть, знаю, но в данном конкретном случае счёт шёл на секунды — ИИ мог бы об этом подумать и среагировать адекватнее, но он не смог 😉
почему?
раз сработало, может конкретно в этом случае такое ожидание и было нужно?
Нужен ответ специалиста по мозгам.
Хоспадя, просто выложите трейлер
https://ru.wikipedia.org/wiki/%D0%9E%D0%BD%D0%B0_(%D1%84%D0%B8%D0%BB%D1%8C%D0%BC,_2013)
как же нами управляют