Решаем проблему атрибуции в digital-маркетинге при помощи машинного обучения

Кажется очевидным: маркетологи должны знать, какие из их маркетинговых инвестиций действительно сработали. Однако сделать это на практике оказывается не всегда так просто, как это звучит. Вот почему рекламная «атрибуция» становится все более незаменимой для успешной работы маркетинговых команд.

В данной статье я хочу поделиться, как мы в SegmentStream решаем проблему атрибуции для наших клиентов при помощи сбора сырых данных из источников всех возможных касаний с пользователем в единое хранилище и применения технологий машинного обучения для их обработки.

Для большинства бизнесов крайне маловероятно, что пользователь, вошедший на сайт, купит при первом же визите. Обычно, пользователи приходят на сайт несколько раз из разных источников перед тем как в итоге купят или оставят заявку.

Среди этих источников могут быть:

Убедиться в этом можно посмотрев отчет Конверсии > Многоканальные последовательности > Анализ путей конверсии в Google Analytics:

Со временем, накапливается большое количество разных типов источников трафика и их последовательностей, что делает затруднительным анализ каждого из этих источников в изоляции от других. Именно для этой цели и были придуманы правила, по которым ценность финальной конверсии распределяется по всем источникам в определенных пропорциях. И эти правила называются правилами атрибуции.

Все модели атрибуции условно можно разделить на два типа:

Исходя из своего опыта я вижу, что многие компании до сих пор используют first-/last‑click модели атрибуции. Модель first‑click (первое касание) присваивает 100% вклада первой точке касания потребителя (первому переходу), в то время как модель last‑click присваивает 100% вклада последней точке касания, приводящей к конверсии.

Использование модели last-click (в том числе и ее вариации last-non-direct-click) означает, что вы игнорируете раннюю активность в верхней части воронки, а вместо этого сосредотачиваетесь на каналах нижней части воронки, таких как брендовый поиск и ретаргетинг. Без придания ценности каналам верхнего уровня, весь потенциал ретаргетинга очень быстро будет исчерпан.

Присвоение ценности по модели first-click сопряжено с аналогичными проблемами - отдавая всю заслугу первой точке касания, вы игнорируете истинную ценность касаний в середине и конце воронки, вклад которых может быть крайне значителен в доведении пользователя до покупки/заявки.

Очевидно, что одноканальные модели даже близко не отражают реальность и использование их для принятие решений при распределения бюджета является плохой, а иногда даже опасной затеей.

Несмотря на то, что стандартные модели атрибуции для многоканальных последовательностей так или иначе учитывают вклад всех источников трафика, у них есть ряд проблем.

Приведу небольшой пример. На изображении ниже представлена статистика по двум кампаниям, запущенным в ноябре:

Исходя из данных очевидно, что November Offer 1 в 2 раза эффективнее с точки зрения ДРР в сравнении с November Offer 2. Если бы мы знали это заранее, мы могли бы выделить больше бюджета в Offer 1, уменьшив вложения в Offer 2. Однако, повернуть время вспять, увы, невозможно.

Предположим, что декабре мы планируем запустить совершенно новые рекламные кампании. Очевидно, что использовать знания, накопленные в ноябре, будет невозможно:

Чего нам хотелось бы меньше всего, так это потратить еще один месяц инвестируя в неэффективную маркетинговую кампанию.

Именно тут на помощь приходит машинное обучение на основе сырых данных, которое лежит в основе атрибуции, которую мы применяем в SegmentStream.

Машинное обучение позволяет изменить подход к атрибуции с алгоритмического, где Данные + Правила = Результат (не всегда желаемый), к предиктивному, где Желаемый результат + Данные = Правила.

В действительности, даже само определение атрибуции очень хорошо ложится на принцип работы supervised машинного обучения:

Именно поэтому, мы решили построить атрибуцию, которая:

Ниже я расскажу в деталях, по какому принципу устроена работа нашей атрибуции.

Предлагаемая нами модель атрибуции основывается на анализе поведения пользователя на сайте и предсказанию вероятности им совершить покупку в начале сессии и в конце сессии, а затем расчета разницы ("дельты"). Именно эта "дельта" и будет определять вклад каждого канала в целевую конверсию.

Давайте разберем пример, изображенный на картинке выше:

В итоге, мы имеем возможность определить реальный вклад абсолютно всех источников трафика основываясь на том, насколько вероятность купить в рамках инициированной ими сессии изменилась. Таким образом, теперь мы знаем ценность каждого источника трафика в покупку.

Ниже я расскажу, как построить подобную атрибуцию.

Шаг 1: Сбор данных о поведении пользователей

При помощи SegmentStream JavaScript SDK мы собираем абсолютно все взаимодействия пользователя с сайтом без каких-либо лимитов и отправляем их напрямую в облачное хранилище Google BigQuery для дальнейшего анализа.

Почему Google BigQuery? Это один из самых популярных инструментов для облачного хранения данных на сегодняшний день. В первую очередь это связано с тем, что инструмент является очень мощным, функциональным, недорогим и простым в использовании. Кроме того, Google BigQuery можно использовать не только для сбора данных и построения сквозной маркетинговой аналитики, но для построения атрибуции на основе нелинейного поведения пользователей при помощи машинного обучения.

Похожий результат можно достигнуть, если у вас есть Google Analytics 360, позволяющий делать выгрузку в Google BigQuery на уровне хитов. Однако даже там есть лимит на 500 событий за сессию, который очень легко превысить.

Важным отличием от простых алгоритмических моделей является то, что при помощи машинного обучения мы можем анализировать сотни и даже тысячи различных событий, а не только просмотры страниц и основную e-commerce воронку. Например:

Можно пойти дальше, и создать куда более комплексные события. Например, факт просмотра абсолютно всех фотографий на странице (не одной фотографии, не двух, а всех!) имеет просто невероятную корреляцию с будущей покупкой, а значит предиктивная сила данной фичи будет крайне велика.

С точки зрения стандартной e-commerce воронки, переход на карточку товара с просмотром одной фотографии и переход на карточку товара с просмотром всех фотографий будут эквивалентны. В реальности же, это два кардинально разных просмотра карточки товара с точки зрения поведения пользователя и его вовлеченности!

Когда сырые данные собраны, мы преобразовываем их в атрибуты, где каждая пользовательская сессия имеет набор фич и результатов (лейблов), на которых мы будем обучать нашу модель. К примеру, в качестве результата (лейбла) можно выбрать факт покупки в течение следующих 7 дней.

Шаг 2: Майнинг фич

Использование машинного обучения невозможно без предварительного определения, что будет являться фичами, на которых обучается модель (features), и что будет являться результатом предсказания (label). Для обучения мы решили собирать все возможные фичи следующих типов:

Таким образом, полученный набор данных можно использовать для обучения модели, которая будет предсказывать покупку в течение следующих 7 дней для каждого пользователя, вошедшего на сайт.

Шаг 3: Обучение предсказательной модели

В темные времена до появления Google BigQuery ML, обучение модели машинного обучение было довольно сложной data science и data engineering задачей, особенно если необходимо также автоматизировать постоянное переобучение модели на новых данных.

Необходимо было постоянно перемещать данные из хранилища к себе на компьютер (или куда-то в облако), чтобы потом при помощи Tensorflow, Jupiter Notebook, Python или R обучить модель или делать предсказания, а затем результаты снова загружать в базу данных:

С Google BigQuery ML произошла революция и значительное упрощение этого процесса. Сейчас вы можете собирать данные, майнить фичи, тренировать модели, делать предсказания - все внутри облачного хранилица Google BigQuery без необходимости перемещать данные куда-либо еще:

И все эти сложные процессы реализовываются на доступном любом аналитику SQL языке.

К примеру, чтобы создать модель, которая предсказывает вероятность купить в течение следующих 7 дней на основе собранных поведенческих фич, нужно всего лишь исполнить вот такой SQL запрос:

И все! Через несколько минут у вас будет обученная модель! И самое прекрасное заключается в том, что эту модель можно переобучать ежедневно без каких-либо усилий.

Шаг 4: Построение модели атрибуции

Отлично, мы смогли построить модель, которая предсказывает вероятность купить в течение следующих 7 дней для каждого пользователя.

Как уже было сказано выше, в основе атрибуции SegmentStream лежит информация о разнице между вероятностью совершения покупки в начале и конце сессии. В базе Google BigQuery все эти расчеты для каждой сессии будут выглядеть примерно следующим образом:

Где:

Каждый session_id содержит информацию об источнике трафика. Таким образом и становится известно, насколько каждый источник трафика "продвинул" пользователя к покупке или другому целевому действию.

Шаг 5: Подготовка финального отчета для маркетологов

Всё что остается — это агрегировать данную информацию в сводный отчет, где будут отображены:

Вертикальная черта в колонке Cost Revenue Ratio обозначает целевой для бизнеса ДРР (доля рекламных расходов). Таким образом, маркетологи могут легко увидеть неэффективные рекламные кампании/баннеры/ключевые слова, и принять решение по перераспределению рекламного бюджета для оптимизации ROAS и снижения ДРР.

Плюсы:

Минусы:

Технологии машинного обучения до сих пор сильно зависят от аналитических способностей человеческого мозга как в рамках постановки задач, так и интерпретации результатов. Однако уже сейчас мы можем использовать и применять недосягаемые ранее мощности (в том числе таких инструментов, как Google BigQuery), чтобы анализировать сотни и тысячи поведенческих факторов для предсказания действий, важных для бизнеса.

Одно из таких применений - маркетинговая атрибуция, где машинное обучение уже сейчас способно проанализировав гигабайты и терабайты данных и дать нам инсайты, которые мы, к сожалению, никогда бы не смогли обнаружить, используя возможности только человеческого мозга и алгоритмов.

Более техническая версия моей статьи на CXL: https://cxl.com/blog/attribution-google-bigquery-ml/