Machine Learning с человеческим лицом. Кейс службы поддержки «ВКонтакте»

Создатели ML-моделей рассказали, почему не доверяют своих пользователей ботам.

Руководитель службы поддержки «ВКонтакте» Анастасия Фёдорова и продакт-менеджер AI Research Иван Самсонов выступили на конференции по Machine Learning, прошедшей в Selectel. В тексте — про первые попытки автоматизировать службу поддержки и целый ансамбль ML-моделей, которые заменяют 30 сотрудников.

Команде поддержки «ВКонтакте» исполнилось 10 лет. За это время ее сотрудники ответили на 43 млн вопросов и помогли 26 млн пользователей (примерно столько же человек живет в Австралии).

Но главное достижение в том, что 45 % этих ответов дал искусственный интеллект. Правда, не без помощи людей: во «ВКонтакте» любой автоматический ответ проходит через обработку сотрудника поддержки, или агента. Так соцсеть убеждается, что пользователь получил точный и полезный ответ.

У любой службы поддержки есть три основные точки контроля качества работы, рассказывает Иван:

С момента внедрения ML-моделей пользователи «ВКонтакте» стали получать первые ответы в 5 раз быстрее. Чтобы понять, как команда пришла к таким результатам, вернемся в 2011 год.

В компании сразу поняли, что ответам службы поддержки нужна автоматизация. Большая часть вопросов связана с массовыми «поломками» соцсети — в таком случае в поддержку валятся тысячи сообщений на одну тему. Ответить нужно каждому, а в службе на тот момент было 30-50 человек.

В первую очередь внедрили скрипт, который позволял отвечать на однотипные вопросы одновременно. Сотрудникам не нужно было писать каждому отдельно, сформированное один раз сообщение отправлялось сразу нескольким десяткам пользователей. Другой скрипт распределял вопросы по ключевым словам: они сразу попадали к специалисту, который мог быстро разрешить проблему.

В 2017 году, когда «ВКонтакте» начала работать с платежными сервисами, ввели приоритизацию вопросов. На сообщения, связанные с вымогательством денег, мошенничеством, взломом аккаунтов, нужно было реагировать в срочном порядке. Поэтому они получали высший приоритет и направлялись специалистам «скорой помощи».

Все это повысило скорость ответа поддержки, но настоящим бустом для соцсети стала коллаборация с командой прикладных исследований.

Первую модель машинного обучения для поддержки «ВКонтакте» создали в 2019 году. На тот момент технологии искусственного интеллекта уже были достаточно развиты, а соцсеть накопила большое количество данных для обучения модели — и вопросы пользователей, и классные ответы агентов.

Модель генеративная, то есть она учится генерировать данные на существующем массиве данных. Назвали Долорес — в честь героини сериала «Мир дикого Запада», который был популярен в то время.

Пользователь отправляет в поддержку запрос с описанием проблемы. Модель «смотрит», как раньше реагировали агенты, и генерирует несколько подходящих, по ее мнению, ответов. Это не какие-то предзагруженные шаблоны.

Допустим, модель сгенерировала три ответа, как на картинке ниже, и агент должен выбрать наиболее подходящий.

Сотруднику поддержки не нужно руками вписывать ответ. Он просто выбирает корректный вариант и кликает «Использовать ответ».

Рядом есть кнопка «Передать». Ее агенты используют, если их компетенций не хватит, чтобы поддержать дальнейший разговор с пользователем. Юзер получает быстрый ответ, но модель переадресовывает переписку на «суперагентов», которые отвечают на сложные и специфические вопросы.

Бывают ситуации, когда сгенерированный ответ Долорес не подходит. Для этого есть две кнопки в интерфейсе: «Не подходит» и «Не подходит совсем». В первом случае модель правильно угадала направление мысли, но неправильно или неполно сформулировала. Агент может дописать или скорректировать ответ. «Не подходит совсем» дает понять, что ИИ сгенерировал какую-то дичь — сотрудник пишет ответ сам.

Долорес развивается не одна, внутри нее есть целый ансамбль моделей, которые закрывают разные задачи службы поддержки. Все они носят имена каких-то маскотов — Нео, Принцесса Лея и другие узнаваемые персонажи. Так разработчикам «ВКонтакте» проще и веселее общаться между собой.

Не всегда людям, которые пишут в поддержку, действительно нужна помощь. Чтобы агенты не тратили свое время и силы на таких пользователей, «ВКонтакте» внедрила систему антитроллинга. Модель оценивает семантику запросов и классифицирует их. Так, разделяются вопросы, где пользователь реально хочет закрыть свою боль, и ехидные замечания со сленгом, нецензурной лексикой, которые не связаны с продуктом «ВКонтакте». Последние идут в урну, куда иногда заглядывают агенты для домодерации.

Есть отдельная категория вопросов, которую во «ВКонтакте» называют «Life is». В таких запросах нет отсылки к продукту, но нет и токсичной составляющей. Например, пользователь пишет: «Слушайте, мне так здорово сидеть на своей страничке, слушать музыку, но захотелось вьетнамской еды. Может, посоветуете доставку?» На таких вопросах агенты поддержки отдыхают. Никаких сложных технических моментов, можно просто человечно ответить и порадовать пользователя.

Когда приходит запрос от юзера, он автоматически классифицируется на некоторое количество тегов. Это могут быть теги «платежи», «угон страницы» и другие маркеры, которые определяют дальнейший путь сообщения.

Также есть модель, которая идентифицирует язык вопроса и отправляет агентам-носителям. За десять лет работы сотрудники поддержки ответили на запросы на 24 языках.

Эта модель позволяет разработчикам «ВКонтакте» быстрее фиксить баги и находить проблемы в системах. Например, запустили новый продукт или выполнили маленькое или крупное обновление. Если что-то пошло не так, пользователи заметят это первыми. С помощью семантического анализа можно достаточно быстро из пачки странных запросов вычленить зерно смысла. Может, нужно докрутить UX продукта или дописать пояснение, как что-то работает?

Не все модели, которые делают разработчики «ВКонтакте» живут долго и счастливо. Летопись некоторых довольно скоротечна: они быстро затыкают дыры в процессах, разгружая агентов поддержки, а потом идут в утиль. Абсолютно нормально, что не все модели эволюционируют. Команда AI Research постоянно экспериментирует с ними, чтобы делать поддержку более адаптивной и современной, снабжать ее новыми технологиями.

Натренировать идеальный ИИ для службы поддержки «ВКонтакте» практически нереально. Продукт постоянно обновляется, а генеративным моделям нужно «мясо» — база ответов от агентов по новому инструменту или фиче. Кроме того, сотрудники поддержки работают с людьми, а люди способны написать слово «верификация» тысячей и одним способом или задать вопрос так, что даже агент не сразу разберется.

«Но все это не безнадежные случаи. Да, люди задают вопросы в странных формулировках, но на них тоже находятся ответы. А значит, Долорес будет обучаться и в будущем поймет, что на самом деле хочет пользователь. Сейчас наша модель понимает: когда ее спрашивают, любит ли она “Группу крови”, имеют в виду песню, а не биологическую жидкость. И это здорово», — говорит Иван Самсонов.

#selectel #machinelearning #вконтакте #искусственныйинтеллект