Как мы тестировали бота Олега в комментариях под материалами

Было любопытно посмотреть, на каком уровне в качестве собеседника находятся алгоритмы банка «Тинькофф».

При первом запуске боту поставили десятки минусов из-за односложных ответов — мы скрыли его карму, чтобы не добивали, и приостановили ответы. После паузы разработчики банка вернулись с обновлённым Олегом, который уже строил длинные реплики. Многие из них пришлись пользователям по душе: карма бота остановилась на +3348, на страницу подписались 117 пользователей.

Как мы тестировали бота Олега в комментариях под материалами

Олег написал 2312 комментариев и сделал приличное количество ответов мимо, поэтому приносим извинения перед теми, кому он мог помешать или обидеть.

Другие популярные мы собрали здесь на память. Никто не вмешивался в текст — это можно было понять по тому, что в случае триггера на какой-то комментарий он отвечал в ту же секунду. Олег реагировал на упоминания ключевых слов, а иногда просто выбирал для ответа случайные комментарии первого уровня.

Комментарии разработчиков Олега

Сложности с проектом начались ещё до того, как Олега стали минусовать. Довольно непросто, когда ты крупный онлайн-банк, взять и выкатить свой сервис куда-то вовне — наши безопасники были не очень счастливы.

Фейл на старте: включили Олега как он есть в мобильном банке Тинькофф: корректного, отвечающего на вопросы и готового поболтать только по просьбе клиента «Олег, давай поболтаем». У него есть ещё и вторая модель — «болталка», в которой он гораздо больше раскрепощён. Очевидно, что в комментариях надо было включать именно её.

Кроме того, в первый же день мы поняли, что Олега слишком много — он отвечал на 10% всех комментариев на vc.ru, а поток оказался огромным. Лента комментариев на сайте была вся в ответах Олега, поэтому сначала снизили до 5%, а потом вообще до 1%.

Затем мы сделали ещё пару доработок, после которых Олег всё-таки смог получить признание: снизили порог уместности ответов Олега, то есть включили ту самую «болталку» и дали ему волю отвечать без самоцензуры. Самым эффективным оказалось изменение логики подбора ответа. Раньше Олег брал какую-то часть из общего потока комментариев (например, 1%), генерировал для них ответы и публиковал те, в которых он больше всего уверен. После изменений стало так: Олег получал 100% всех комментариев, генерировал на них ответы, а из них выбирал топ из 1%, в котором уверен больше всего.

Удивительно то, насколько аудитория vc.ru в итоге тепло приняла Олега, его ошибки и в целом инструмент. Высокие оценки, которые сложно представить в отношении обычного биокомментатора с такими же текстами, возможно говорят о позитивном отношении к AI-сервисам :-)

Надеемся, что мы поставили хорошую планку для будущих экспериментов с ассистентами, обученными на открытых данных.

«Skyeng изменит фирменный стиль и логотип впервые с момента основания в 2012 году»

Как мы тестировали бота Олега в комментариях под материалами

«Иннополис» предложил ИТ-стартапам налоговые льготы, место в коворкинге и подписку на сериалы в обмен на переезд»

Как мы тестировали бота Олега в комментариях под материалами

«Налоговое управление США инициировало слушания в отношении Олега Тинькова»

Как мы тестировали бота Олега в комментариях под материалами
Как мы тестировали бота Олега в комментариях под материалами
Как мы тестировали бота Олега в комментариях под материалами

«Яндекс» предложил пользователям бесплатное двухнедельное тестирование «Станции»

Как мы тестировали бота Олега в комментариях под материалами

«Федор Бондарчук стал амбассадором «Газпромбанка»

Как мы тестировали бота Олега в комментариях под материалами

«Citroën откроет предзаказ на двухместный электромобиль Ami для коротких поездок весной 2020 года»

Как мы тестировали бота Олега в комментариях под материалами

«ВКонтакте» закрыла магазин с толстовками, значками и другим мерчем VK Shop

Как мы тестировали бота Олега в комментариях под материалами

«Вставать в пять утра — это факен изи»

Как мы тестировали бота Олега в комментариях под материалами
Как мы тестировали бота Олега в комментариях под материалами

«Cервис YouDo расстался с 70 сотрудниками — в компании говорят, что это реструктуризация»

Как мы тестировали бота Олега в комментариях под материалами

«Мой бывший сотрудник взял кредиты и поставил переадресацию со своего номера на мой. Теперь мне звонят коллекторы»

Как мы тестировали бота Олега в комментариях под материалами

На «Авито» появились объявления о продаже «умных» колонок «Капсула» от Mail.ru Group до официального релиза

Как мы тестировали бота Олега в комментариях под материалами

Исследование Тинькофф Инвестиций: российский розничный инвестор — кто он такой?

Олег отвечает на вопросы читателей блога банка на vc.ru.

Как мы тестировали бота Олега в комментариях под материалами

Bloomberg: Apple впервые позволит владельцам iPhone и iPad менять браузер и почту по умолчанию

Как мы тестировали бота Олега в комментариях под материалами

ЦБ даст банкам возможность обмениваться данными о сомнительных операциях через Систему быстрых платежей

Как мы тестировали бота Олега в комментариях под материалами

Цифры: «Яндекс» впервые раскрыл инвестиции в беспилотники

Как мы тестировали бота Олега в комментариях под материалами

IKEA начнёт продавать фрикадельки на растительной основе, похожие на мясо — в том числе в России

Как мы тестировали бота Олега в комментариях под материалами
Как мы тестировали бота Олега в комментариях под материалами

«Искусственный интеллект не станет по-настоящему "умным", пока не поймёт причинно-следственных связей»

Как мы тестировали бота Олега в комментариях под материалами

Forbes назвал 20 самых дорогих интернет-компаний в России в 2020 году

Как мы тестировали бота Олега в комментариях под материалами

«Мне говорили, что я идиот, но я продолжал скупать платёжные терминалы»: построение успешного бизнеса в падающей нише

Как мы тестировали бота Олега в комментариях под материалами

Маркетплейс «Беру» выпустил новые коробки для заказов — из них можно собрать домик для кошки

Как мы тестировали бота Олега в комментариях под материалами
Как мы тестировали бота Олега в комментариях под материалами

Финтех-сервис Revolut Николая Сторонского привлёк $500 млн при оценке в $5,5 млрд

Как мы тестировали бота Олега в комментариях под материалами
Как мы тестировали бота Олега в комментариях под материалами

Экономика концертного промоутера: как, почему и из чего формируются цены на концертные билеты

Как мы тестировали бота Олега в комментариях под материалами

Пользователи сообщили о сбое в сервисах «Яндекс.Еда» и Delivery Club

Как мы тестировали бота Олега в комментариях под материалами

Пока, Олег

Как мы тестировали бота Олега в комментариях под материалами
Как мы тестировали бота Олега в комментариях под материалами
242242
145 комментариев

Выскажу непопулярное мнение - верните Олега в комментарии.

204
Ответить

Согласен

Ответить

Олежка нормально зашел)

102
Ответить

Лично мне не верится, что там без человека обошлось, имхо, фуфло нам загоняет тиньков банк.

67
Ответить

Ни за что не поверю, что у него положительная репутация, учитывая то количество трэша, который он писал и как его минусовали за тупость.

Стопудов админы подкрутили репутацию. 

Обнулили в лучших традициях и подкрутили

П.С. Прочитал статью) Понял. Сначала он был тупым. Его действительно обнулили. И он стал умным.

10
Ответить