ИИ превращает каждого пользователя приложений для знакомств в поэта. Хорошо ли это?
Все больше людей используют ИИ, чтобы приукрасить свои сообщения, но их собеседникам остается догадываться, кто тот человек, который им понравился в приложении для знакомств. WP рассказывает историю Richard, который переписывался неделями с женщиной в приложении для знакомств и был очарован. Встретившись с ней в реальности, он испытал разочарование: она была совсем не похожа на человека, который ему писал. Женщина использовала ChatGPT и другие ИИ сервисы для переписки с ним. Richard разочаровался в ИИ и приложениях для знакомств. С кем именно он переписывался неделями? Явно не с ней.
Приложения для знакомств начали внедрять ИИ инструменты. ИИ отмечает сообщения, которые выглядят странно, агрессивно и подталкивает пользователя переписать такие сообщения. ИИ помогает занятым, неуверенным в себе и токсичным людям находить знакомства. Не все умеют писать красиво, и ИИ помогает. Возникает вопрос об этике использования ИИ. Если речь идет об эффективности, ИИ используют, не сильно думая об этичности, но если речь о личных эмоциональных связях, то искренность важна. Эксперты: чем больше мы полагаемся на ИИ для улучшения эмоциональных связей, тем менее мы выглядим искренними. Профессор в Boston University: люди хотят знать, что если они открывают себя новому человеку, то он искренен. «Если вы открыты, а другой человек настолько отстраняется, что создает между вами барьер в виде ИИ, то вы чувствуете, что не совпадаете».
Richard Wilson чувствовал себя так, словно нашел золотую жилу: 31летний мужчина встретил кого-то в приложении для знакомств, кто хотел написать большее, чем стандартное «как дела».
Эта женщина присылала длинные сообщения, использовала аргументы, подтверждая каждое высказывание Richard. Их витиеватые беседы раздували романтику отношений, но встретившись с собеседницей лично, он удивился, что ее речь была совсем не та, чем когда она писала.
Смущение Richard переросло в подозрение, что эта женщина упомянула, что на работе она постоянно использует ChatGPT. Неужели она пользовалась ИИ инструментом и в приложении для знакомств?
Компания – владелец приложений для знакомств Match Group управляет такими приложениями как Hinge, Tinder и другие. Компания заявляет, что ИИ помогает занятым, неуверенным в себе и токсичным людям находить знакомства. Но все больше таких пользователей как Richard Wilson осознают, что такое массовое использование ИИ усложняет коммуникации в приложении и задают вопросы об этике и стандартах общения в этой сфере, которая, итак, уже страдает чувством отчуждения.
Использование ИИ бота затрудняет оценку потенциального партнера в приложении для знакомств
Erika Ettin, коуч по знакомствам: с помощью ИИ сообщения звучат более привлекательно, ИИ отфильтровывает комментарии, которые звучат сомнительно, но становится сложнее понять, насколько пользователь в приложении привлекателен и безопасен.
Erika Ettin: «Обычно, вы можете уже в чате понять, какую лексику использует ваш собеседник. Вы видите, если он легко переходит на сексуальные темы и как ваш собеседник разговаривает с незнакомыми. Если бот разговаривает за людей, то вы уже не можете сделать о собеседнике какой-то вывод».
Как и для чего приложения для знакомств используют ИИ
Почти треть взрослых американцев заявляют, что использовали приложение для знакомств, и многие отношения начинались в онлайне. Компании- владельцы приложений ищут способы использовать продвинутый ИИ, чтобы развивать свою бизнес-модель. Приложение Hinge добавило ИИ инструмент, чтобы считывать профили пользователей и поверхностно знакомиться с их фото, предлагать дополнения и улучшения, которые повышают шансы на знакомство. Tinder использует ИИ для чтения сообщений и подталкивает пользователя отправить или получить сообщение кому-то. Такие приложения как Rizz и Wing используют ИИ для помощи пользователям с обращением к потенциальному собеседнику.
Amanda Gesselman, психолог в Kinsey Institute, проводит исследование с Match Group. Она считает, что большая часть пользователей - одиночек использует ИИ, «чтобы улучшить свой опыт в приложении». Amanda сообщила, что технологии могут помочь людям, которым сложно разобраться во всех правилах приложений: как просматривать контакты, писать, назначать встречи. Однако она признает, что использование ИИ сталкивается с этическими вопросами, и ей было сложно объяснить, когда применение ИИ этично, а когда обманывает другого пользователя.
Amanda Gesselman: «Люди будут использовать ИИ, чтобы изменить свое фото так, как они сами не смогут. Использование ИИ в сообщениях усиливает их или улучшает».
Дизайн приложений для знакомства поощряет поведение, которое создает ощущение, что ухаживания какие-то безличные. Некоторые пользователи переключаются с профиля на профиль, пытаясь увеличить шансы найти пару. Другие обрывают общение после плохого свидания. Многие пытаются манипулировать алгоритмами приложения, сообщая «нет» партнеру, который им нравится, подсказывая алгоритму, что пользователь очень избирательный.
Eve Tilley-Coulson, адвокат в Лос-Анджелесе, дополнительно зарабатывает: она заходит в приложение Hinge и свайпит от их имени, подсказывая алгоритму. Eve Tilley-Coulson: для тех, кто уже разочарован приложениями для знакомств, функциональности ИИ вряд ли понравятся. Когда ИИ помощник в приложении Hinge предлагает пользователю написать более подробный ответ, то пользователь считает, что приложение собирает данные с какими-то плохими намерениями. Группа Match заявляет, что сбор данных ИИ осуществляется «только для улучшения сервиса».
Eve Tilley-Coulson: ИИ функциональности будут в самом худшем сценарии использоваться против пользователей: чтобы они продолжали бесконечно «свайпить» и платить. В лучшем случае ИИ будет подталкивать пользователей использовать унифицированные ответы и стандарты в разговорах, так как ИИ ссылается к тем разговорам и данным, на которых он было обучен.
Что говорят официальные лица приложений для знакомств об алгоритмах ИИ
Vidhya Murugesan, представитель Match Group, заявил, что алгоритмы компании направлены на подталкивание пользователей к личному общению и уходу с платформы. «Мы встроили ИИ функциональности в наши приложения, так как для нас важна искренность, прозрачность и безопасность. Эти инструменты улучшают опыт пользователей и помогают им связываться друг с другом».
«Цензура» сообщений в Match с помощью ИИ
Yoel Roth, глава по безопасности и доверию в Match Group: если ИИ «подталкивания» «охлаждают» некоторые беседы в приложениях для знакомств, то это не всегда плохо. Match использует ИИ для чтения сообщений пользователей и отмечает, если какие-то сообщения звучат агрессивно, обидно или странно.
Yoel Roth: 20% пользователей, получающих такие пометки ИИ, не отправляют оригинальное сообщение. Получатели могут также получить сообщение: «Вас это сообщение не смутило?», если ИИ посчитал сообщение потенциально неприятным.
Yoel Roth: «Когда мы создавали приложение, мы думали, как мы можем использовать ИИ для улучшения опыта пользователя и сделать пребывание на платформе безопасным и даже более искренним. И также, как облегчить контакты пользователей».
Roman Khaves, со-основатель приложения Rizz: «сложности» начать контакт могут быть у некоторых пользователей, которые в принципе иногда плохо коммуницируют. Пользователи могут загрузить скрин переписки в приложение и попросить ИИ помочь с текстом.
«ИИ помогает людям стать чуть более уверенными и придают им харизму. Есть много парней, которые не умеют красиво писать, и Rizz помогает им лучше выглядеть на платформе».
Стремление создать эмоциональные отношения с помощью ИИ приводят к тому, что мы выглядим совсем не искренними
Социальные нормы - когда и как использовать ИИ, формируются медленнее, чем сама технология. Giada Pistilli, специалист по этике в ИИ компании Hugging Face: если цель- повысить эффективность, то передача ИИ части функций выглядит менее сложной с точки зрения этики, чем когда речь идет о доверии, как в приложениях для знакомств. Чем больше мы перекладываем на ИИ наши эмоциональные связи, тем менее естественно мы выглядим.
Giada Pistilli: «Хотя пока нет регулирования, но у нас есть сильные моральные представления об искренности в личных отношениях. Любовное письмо теряет эмоциональный оттенок, если мы узнаем, что его писал ИИ инструмент».
Kathryn Coduto, профессор в области СМИ в Boston University: люди хотят знать, что если они открывают себя новому человеку, то он искренен. «Если вы открыты, а другой человек настолько отстраняется, что создает между вами барьер в виде ИИ, то вы чувствуете, что не совпадаете».
Richard: если женщина не писала мне сообщения с помощью ChatGPT, то я бы раньше понял, что она мне не подходит
После встречи с женщиной, которая использовала ChatGPT для написания ему писем, Richard Wilson назначил второе свидание. Он подумал, что с временем он получит шанс узнать ее личность.
Но то, что он узнал в ней, ему не понравилось. Он не узнал, использовала ли она ИИ бота, когда общалась с ним, но после плохого свидания у Richard’а появилось стойкая неприязнь к ИИ и чувство усталости от приложений для знакомств. Если бы женщина сама писала сообщения без помощи ChatGPT, или Hinge не останавливал бы ее, когда она писала неподходящие сообщения, то, возможно, он ранее понял бы, что она ему не интересна.
Они общались неделями. Но с кем именно переписывался Richard Wilson?
«Такое ощущение, что мы никогда с ней и не разговаривали».
Ссылка на статью: