Перестарались, втянулись, вернули отток: кейс Out of Cloud для сети IL Patio, Планета Суши, TGI Friday's, Costa Coffee

Лонгрид о том, как мы начали с писем и пуш-уведомлений, продолжили аналитикой и экспериментами, а закончили ростом посещений на 40% и маржи на 17%.

Перестарались, втянулись, вернули отток: кейс Out of Cloud для сети IL Patio, Планета Суши, TGI Friday's, Costa Coffee

В 2018 году агентство Out of Cloud начало запускать кастомизированные промоакции с глубоким использованием аналитики для сети ресторанов Росинтер Ресторанс (IL Patio, Планета Суши, TGI Friday’s, Costa Coffee). Были проведены многочисленные эксперименты, самые успешные из них – автоматизированы. В результате одного из таких, в экспериментальной группе посещения выросли на 40%, сумма счетов на 36%, маржа на 17%. Кейс был удостоен премии «Loyalty Awards Russia - 2018» в номинации «Лучшее применение аналитики». Сотрудники Out of Cloud, работавшие над проектом, рассказывают о всех его тонкостях, важности CLV и научного подхода, о крови и поте интеграции, и почему всегда стоит верить в Сборную России по футболу.

Акт I. В котором Out of Cloud пишет письма и настраивает интеграцию.

Наталья Пиневич, старший CRM-маркетолог:

В октябре 2017 года нашим клиентом стала компания «Росинтер Ресторантс». Сначала о глубокой работе с клиентской базой речь не шла. В качестве пилотного проекта нужно было выбрать и настроить мультиканальную платформу для коммуникаций с клиентами ресторанов, разработать и внедрить триггерную стратегию поддержки клиентов, наладить регулярную рассылку с акциями и предложениями компании через мобильные пуши и email-ы. В качестве платформы мы выбрали Mindbox за отличную кастомизацию под наши запросы. На первом этапе платформу интегрировали с сайтом доставки hgclub.ru и CRM-системой заказчика, что позволило быстро запустить базовые триггерные email-коммуникации: welcome-цепочки при регистрации в программе лояльности, брошенную корзину, брошенный просмотр бренда и категории, письмо о начислении бонусных баллов после транзакции, серию коммуникаций ко дню рождения клиента. В это же время мы прогрели ip-адрес и начали отправлять массовые регулярные email-рассылки. Настроить отправку мобильных пушей оказалось значительно сложнее.

Антон Капшуль, главный разработчик:

Прежде всего нужно было выгрузить данные в Mindbox. Каждый день в действиях пользователей происходили какие-то изменения и заливались новые 1 200 000 записей, даже неактивных пользователей. Далее мы столкнулись с проблемами отправки персональных сообщений в приложении. Для всех это было в новинку. Росинтер давно слал такие сообщения, но Mindbox из коробки не умел это делать. Для быстроты интеграции этого функционала мы организовали трехстороннюю встречу (Mindbox, разработчики мобильного приложения и мы) и в общем диалоге придумали способ использовать встроенные в Mindbox веб-хуки [веб-хук – способ передать в стороннюю систему информацию о каком-то событии, которое произошло в системе Mindbox]. Это накладывало определенные сложности для маркетологов, так как нужно было знать HTML-разметку для отправки сообщений.

Наталья Пиневич, старший CRM-маркетолог:

Параллельно с запуском первых коммуникаций мы провели базовую аналитику базы участников программы лояльности и поняли, что большое количество клиентов не делает вторую и третью покупки. Для мотивации клиентов делать первые покупки мы настроили триггерные письма с акциями, мотивирующими делать первую и вторую покупки. Кроме того, мы выявили точки контакта с клиентами, которые надо поддержать коммуникациями. Например, решили стимулировать клиента списывать бонусные баллы при их достаточном накоплении или поощрять клиентов, которые за определенный период продемонстрировали рекордное для себя потребление. Также настроили реактивационный триггер на тех клиентов, кто не делал покупки более полугода.

Антон Капшуль, главный разработчик:

Стоило только наладить отправку мобильных пушей и персональных сообщений, Росинтер поменял дизайн и структуру сайта доставки. Соответственно интеграцию пришлось переделывать процентов на 60-70%, поскольку теперь не было многих моментов, вроде отдельной карточки блюда, поменялись некоторые пользовательские сценарии и так далее.

Все же главной проблемой было то, что и у сайта, и у CRM-системы, и у приложения были совершенно разные разработчики. Сложно заставить что-то делать людей, у которых сейчас абсолютно другие приоритеты и движение, направленное в разные стороны. Путем постоянных звонков, писем, встреч, нам все же удалось это сделать.

Наталья Пиневич, старший CRM-маркетолог:

Таким образом через 5 месяцев работы у нас было настроено около 20 триггерных коммуникаций и налажены регулярные массовые рассылки, в том числе через мобильные пуши. После решения проблем с интеграцией мобильного приложения и настройкой процесса отправки сообщений мы столкнулись с тем, что не можем технически через Mindbox отправлять пуши на всю базу подписанных на этот канал клиентов. Оказалось, что пока клиент не установит версию приложения с операциями платформы, платформа «не знает» об этом клиенте. Принудительно разлогинивать клиентов не стали, чтобы не снижать количество взаимодействий с приложением, ведь не все клиенты помнять свой пароль и прочее. Значительно повысить долю обновления приложений клиентами нам помогла серия email-рассылок, персональных сообщений и пушей (пуши отправили через сервер мобильного приложения).

Кроме настройки триггеров и отправки массовых рассылок мы провели новогоднюю геймифицированную кампанию и отработали несколько сценариев лидогенерации. Эффективность работы измеряли по стандартным маркетинговым показателям вроде Open Rate, CTOR, UnSub Rate, отслеживали выручку с доставки по GA, считали выручку на письмо. В целом и мы и заказчик понимали, что эффект от работы есть, но точно посчитать прирост было невозможно, так как контрольные группы мы не использовали.

Акт II. В котором Out of Cloud понимает, что надо анализировать поведение потребителей и проводить эксперименты.

Наталья Пиневич, старший CRM-маркетолог:

Следующей нашей задачей была сегментация базы участников программы лояльности на основании их ценности и структуры потребления, ведь триггеры предлагают всем клиентам одни и те же механики, а мы хотели делать клиентам максимально релевантные для них предложения: кому-то побольше скидку, кому-то поменьше, одному подарок, а другому — бонусные баллы. Для решения этой задачи мы подключили аналитиков из Высшей школы экономики, которые впоследствии стали частью команды «Out of Analytics». Вместе с аналитиками мы выделили около 40 поведенческих переменных, которыми дополнили RFM-показатели, и сегментировали базу клиентов.

На этом этапе мы поняли, что можем помочь заказчику более точно настроить программу лояльности через взаимодействие с микросегментами клиентов в соответствии с ценностью, которую они приносят бизнесу. Такой масштабный проект, как «Росинтер», отлично подходил, чтобы начать качественно считать Сustomer Lifetime Value (CLV).

В CRM-маркетинге это ключевое понятие, так как именно этот показатель позволяет ответить на вопрос, какие клиенты сколько прибыли принесут бизнесу в будущем. Зная CLV каждого клиента, можно обоснованно принимать решения, в какой сегмент клиентов какой бюджет стоит инвестировать. К счастью, заказчик принял наши предложения, ведь они тоже все время ищут способы делать клиентов более счастливыми и за счет этого повышать активность клиентов в программе лояльности.

Чтобы эффективно воздействовать на клиентов, надо понимать, что именно является драйвером поведения пользователей. Надо было понять, кому отправить подарок, кому скидку, а кому двойной кэшбек в виде баллов; что больше подходит каждому конкретному сегменту клиентов. Раньше такие решения мы принимали на основе прошлого поведения клиентов и экспертного мнения маркетолога, но . теперь нам стало этого недостаточно, и аналитики чётко обозначили: надо проводить эксперименты.

Елизавета Радюк, специалист по маркетингу:

Экспериментов нужно было проводить огромное количество. Что значимо для клиентов? Что на них влияет перед покупкой? Как повышать частоту и средний чек? Это были наши основные вопросы перед началом работы и ответы на которые мы хотели найти. К слову, это был наш первый кейс, где нам все-таки удалось очень точно и научно обоснованно посчитать CLV клиентов. Еще никто на российском рынке этого до сих пор не сделал. Максимум - очень приблизительные цифры, либо CLV на текущий момент. Но CLV - метрика будущего, и к ней нужен очень грамотный прогностический подход, за что еще раз огромное спасибо нашей команде аналитиков «Out of Analytics».

Наталья Пиневич, старший CRM-маркетолог:

Перед стартом работы с экспериментами мы позаботились об измерении инкрементального (дополнительного) эффекта нашей деятельности. Для этого выделили глобальную контрольную группу (клиенты, которым не отправляются наши кампании), контрольную группу для триггеров и договорились выделять отдельно контрольную группу на каждый эксперимент. Такие настройки позволили нам видеть эффект в целом от нашей деятельности и отдельно по триггерам и экспериментам.

Правила ограничения отправки коммуникаций Наталья Пиневич, Out of Cloud
Правила ограничения отправки коммуникаций Наталья Пиневич, Out of Cloud

Эксперимент в нашем случае должен был выглядеть так: в каждом сегменте выделяется контрольная группа, которой ничего не отправляется, проверяется реакция на каждый конкретный драйвер. Только такой научный подход и должен применяться в подобного рода задачах.

Мы убедили заказчика, что необходимо проводить многомерную сегментацию, развивать CLV клиентов, что нужно проводить эксперименты, чтобы точно увидеть реакцию клиентов на воздействия, и что это положительно повлияет на их программу лояльности «Почётный гость». И конечно Росинтер согласился, ведь они сами начинали двигаться в этом направлении.

Но при этом надо было понимать, что такая глубокая работа, во-первых, не делается очень быстро, а во-вторых, не даёт гигантского сиюминутного профита. Куда больше профита она будет давать в последующем, и увеличивать прибыль, соответственно. Поэтому подход некоторых компаний, которые хотят эффекта здесь и сейчас, не думая о будущем, о качестве и важности проводимой работы, кажется в корне неверным.

За полгода работы мы провели 12 экспериментов, часть из которых показала крутые значимые результаты. Но это все равно мало. На людей оказывает влияние огромное количество факторов, и учитывать каждый невероятно сложно.

Елизавета Радюк, специалист по маркетингу:

Одной из первых и самых результативных была акция «Блюдо в подарок». Мы выбрали сегмент людей с high-PCV (Past Customer Value - прошлая покупательская ценность), которые нам приносили до этого больше всего прибыли и были более ценны. Предложили им на выбор блюдо в подарок: либо лимонад, либо десерт, либо бокал вина. И эта акция показала просто бешеный прирост по посещениям, около 75%. Клиенты из экспериментального сегмента реально стали чаще ходить в рестораны Росинтера. А частота посещений в ресторанном бизнесе - один из наиболее важных моментов.

Наталья Пиневич, старший CRM-маркетолог:

В отличие от старта работы, где мы отвечали только за эффективность коммуникаций, наш KPI уже измерялся не в открываемости писем, а в росте чистой прибыли от каждого эксперимента. И самое интересное было впереди.

Акт III. В котором Out of Cloud провели самый удачный эксперимент и вернули оттоковых клиентов.

Наталья Пиневич, старший CRM-маркетолог:

В мае мы провели кампанию по активации неактивированных клиентов и возврату оттоковых клиентов программы лояльности «Почетный Гость» компании «Росинтер». В рамках акции дарили клиентам дополнительные баллы на короткий срок. Варьировали глубину воздействия по трем измерениям: количество баллов, длительность акции и день отправки дополнительных коммуникаций на 5 сегментах. Оценку инкрементального (дополнительного) эффекта производили по сравнению с контрольными группами.

Вопросы, которые мы обозначили перед началом эксперимента:

  1. Акции какой длительности работают лучше?
  2. Сколько баллов и каким клиентам выгодно дарить?
  3. Имеет ли значение день отправки коммуникации?
  4. Cтоит ли инвестировать больше в оттоковых клиентов, которые в прошлом принесли нам много прибыли?
  5. Сработает ли реактивационная механика на увеличение частоты походов в сегменте активных клиентов?
  6. Выделятся ли подсегменты с максимальной и нулевой реакцией и чем они будут отличаться?

Начали, конечно, с выделения сегментов. В подобных кампаниях важно как можно аккуратнее выделить критерий, по которому можно будет отделить оттоковых клиентов и клиентов, которые сами скорее всего не активируются, от клиентов с редким, но нормальным для них потреблением.

Для определения количества дней, которое свидетельствует о том, что клиент давно не появлялся в ресторане мы использовали метрику Q90(AIPI) - квантиль уровня 90% среднего времени между транзакциями, рассчитанное на данных клиентов, совершивших три и более транзакции

Q90(AIPI) = 155 дней

Значит, в распределении метрики «Среднее время между транзакциями» 90% значений меньше 155 дней, а 10% больше.

На основании этого мы выделили 3 основных и 2 дополнительных сегмента:

А. Основные сегменты

  1. Неактивированные клиенты - нет транзакций и с даты регистрации прошло более 155 дней

  2. Отток (1-2 чека) - меньше 3 транзакций и давность последней более 155 дней

  3. Отток (больше 3 чеков) - больше трех транзакций, давность последней превышает тройное время между транзакциями или 155 дней.

Б. Дополнительные сегменты

  1. Отток High PCV - 20% от всех клиентов, которые принесли наибольшее количество прибыли в прошлом.
  2. Активные клиенты - Небольшой сегмент активных клиентов.

Сегменты выделены, пора определяться с механикой воздействия. В этом эксперименте мы решили использовать начисление баллов в подарок. Клиентам начисляли на персональный счет в программе лояльности дополнительные баллы на установленный срок. Мы посчитали, что такая механика при достаточно высоком уровне бонуса будет интересна клиентам и более выгодна бизнесу, чем, например, прямые скидки или прочие механики.

Ну и наконец, чтобы ответить на вопросы, поставленные в целях исследования, выделили 3 измерения эксперимента.

Во-первых, варьировали длительность акции: 1 неделя (у клиента будут хотя бы одни выходные для спонтанного похода в ресторан) и 2 недели (для любителей планировать досуг заранее). Соответственно, для части клиентов акция действовала 1 неделю, а для части клиентов — 2 недели.

Во-вторых, разным клиентам мы начисляли разное количество баллов, чтобы найти наиболее выгодный для бизнеса и привлекательный для клиента размер вознаграждения. Для этой кампании ценность подарков определили на основе экспертного мнения. Минимальное количество баллов равнялось 250, так как баллами можно оплатить до 50% счета, а средняя стоимость 1 блюда ~400 руб. Далее подняли порог вознаграждения до 350 и 450 баллов. Кроме того, мы хотели проверить гипотезу, что в ценных в прошлом клиентов стоит инвестировать больше, поэтому сегменту HiPCV (high past customer value) решили начислить по 1000 баллов.

В-третьих, варьировали день отправки стимулирующих коммуникаций (суббота, когда у клиента все выходные впереди и можно заказать доставку, и воскресенье, когда уже некогда), чтобы проверить гипотезу маркетологов, что вовлеченность в коммуникации в субботу будет выше, чем в воскресенье.

Перестарались, втянулись, вернули отток: кейс Out of Cloud для сети IL Patio, Планета Суши, TGI Friday's, Costa Coffee

Затем мы определяли каналы коммуникации с клиентами и создали график коммуникаций по проекту.

Перестарались, втянулись, вернули отток: кейс Out of Cloud для сети IL Patio, Планета Суши, TGI Friday's, Costa Coffee

Почему мы не стали использовать СМС-рассылку? СМС - это самый дорогой директ-канал, который мог увеличить просадку по марже.

Итак, пользовательские сегменты и измерения эксперимента выделены, способ воздействия тоже, каналы готовы, график составлен - акцию можно начинать. Но в процессе старта нас снова поджидали технические трудности.

Антон Капшуль, главный разработчик:

По условиям акции сразу большому количеству людей должны были начисляться баллы. Все, рассылка отправлена, процесс пошел, и тут сервер клиента просто ложится…. Как оказалось, это было слишком высокой нагрузкой для него. Баллы, начисляемые по нашей реактивации просто зависли в очереди, поскольку приоритет имели транзакции с баллами, которые происходили непосредственно в этот момент в ресторане. Баллы реактивации «толпились» на сервере, что его и положило. Никто к этому, конечно, не был готов. Обычно у Росинтера не было начисления баллов в таких объемах.

Елизавета Радюк, специалист по маркетингу:

Сложности сложностями, но у нас то эксперимент, с четко установленными датами старта. Пришлось срочно выкручиваться, отправлять баллы по базе частями, сдвигать даты акции, менять контент во всех сообщениях, чтобы все отталкивалось от момента, когда клиент получил их. Это было очень сложно. Старт и конец акции растянулись на несколько дней, и впоследствии отделу аналитики это приходилось уже собирать по кусочкам.

Примеры коммуникации:

Перестарались, втянулись, вернули отток: кейс Out of Cloud для сети IL Patio, Планета Суши, TGI Friday's, Costa Coffee

В выходные перед окончанием акции отправили стимулирующую коммуникацию — email-напоминание клиентам, которые не сделали заказ по акции.

Перестарались, втянулись, вернули отток: кейс Out of Cloud для сети IL Patio, Планета Суши, TGI Friday's, Costa Coffee

За день до сгорания дополнительных баллов клиентам, которые не воспользовались акцией, отправили email и пуш уведомления, что баллы скоро сгорят.

Перестарались, втянулись, вернули отток: кейс Out of Cloud для сети IL Patio, Планета Суши, TGI Friday's, Costa Coffee

Дмитрий Потапов, руководитель направления аналитики:

Для подсчета результатов эксперимента мы применяли разные методики (внимание, дальше будет немного сложно). Для выявления статистически-значимой разницы в поведении применяли статистические тесты на разницу в долях и средних значениях. Для выделения же микросегментов, имеющих нулевую (отрицательную реакцию на воздействие), использовались эконометрические методы и методы машинного обучения.

По тем сегментам, где есть существенная информация о предшествующем поведении клиентов (восстановленная из данных предыдущих транзакций), смоделирована взаимосвязь между поведенческими характеристиками и величиной реакции клиентов на акционное воздействие. В частности, методами машинного обучения были выделены микро-сегменты, которые продемонстрировали реакцию, значимо отличающуюся от средней в сегменте.

Перестарались, втянулись, вернули отток: кейс Out of Cloud для сети IL Patio, Планета Суши, TGI Friday's, Costa Coffee

Например, для сегмента оттоковых клиентов с 3 более чеками показано, что разбиение клиентов по трем поведенческим переменным (давность последней транзакции, средняя стоимость блюд в чеке, средний размер скидки) позволяет выделить подсегмент (20%), демонстрирующих отрицательную маржу по итогам воздействия и подсегмент (20%), демонстрирующих маржу в четыре раза больше, чем средняя в сегменте.

Эта информацию мы используем для более точного (результативного) таргетинга в будущих кампаниях.

По одному из микро-сегментов мы получили результаты в несколько раз превышающие средние показатели. При детальном рассмотрении этого сегмента выяснилось, что из-за того, что данные для формирования целевого сегмента выгружали вручную за несколько дней до старта акции и из-за распределения старта акции образовался пул клиентов, которые к моменту старта акции успели выйти из оттока самостоятельно без нашего вмешательства. Строго говоря, они уже не подходили под условия целевого сегмента и не должны были получить акцию, но получили. Так вот этот подсегмент клиентов показал наилучшие результаты и по марже, и по количеству чеков и по выручке, в несколько раз выше среднего.

Т.е. клиенты, сами вышедшие из оттока, показали самый высокий отклик. Это можно было бы использовать и сознательно стимулировать таких клиентов, но в рамках бизнеса это не принесет много выгоды, потому что таких клиентов очень мало.

Наталья Пиневич, старший CRM-маркетолог:

В результате эксперимента мы ответили на вопросы, которые нас интересовали и поняли, что:

Во-первых, двухнедельная акция на всех сегментах сработала лучше однонедельной. В последующих экспериментах мы тестировали механики длительностью до 2 месяцев, но об этом в другой раз.

Во-вторых, неактивированным клиентам эффективнее дарить 450 баллов, а оттоковым — 250-350.

В-третьих, нет смысла много вкладывать в оттоковых клиентов, которые в прошлом приносили большую прибыль.

Эксперимент показал, что разницы между отправкой дополнительных коммуникаций в субботу или в воскресенье нет.

Ну и наконец, за время действия акции в среднем в экспериментальной группе мы получили 40% инкрементального (дополнительного) прироста по посещениям, 36% прироста по сумме счетов, 17% по марже.

Таким образом нам удалось вернуть оттоковых клиентов и реактивировать тех, кто давно не посещал рестораны Росинтера.

Перестарались, втянулись, вернули отток: кейс Out of Cloud для сети IL Patio, Планета Суши, TGI Friday's, Costa Coffee

Елизавета Радюк, специалист по маркетингу:

В дальнейшем, если эксперимент показывал хорошие результаты - мы его автоматизировали. Например, в ходе этого выяснилось, что оттоковые клиенты хорошо реагируют на 350 подарочных баллов. Соответственно мы все настроили таким образом, что если клиент попадает по каким-либо действиям в сегмент оттока, то ему автоматически приходит 350 баллов в подарок и дается 14 дней, чтобы их потратить.

Акт IV. Завершающий, в котором Out of Cloud делится инсайдами акций во время ЧМ по футболу, планами на будущее и хвалится наградами.

Наталья Пиневич, старший CRM-маркетолог:

Конечно не все всегда было настолько гладко. Летом проходил чемпионат мира по футболу, отличный инфоповод для всех маркетологов. Мы собрали отдельный лендинг, где клиент должен был сделать ставку на исход или точный счет матча с участием сборной России. Он делает ставку на матч нашей сборной, ему приходит письмо о том, что его ставка принята и он должен идти в ресторан. По условиям акции потребитель приходит в ресторан, смотрит там трансляцию, и если его ставка проходила, то он тут же получает QR-код с подарком. Самая большая скидка - 50%, если человек угадал точный счет матча. Мы, конечно, не успели настроить полную автоматизацию, поэтому ребятам приходилось сразу после матча забивать результаты в Mindbox и запускать коммуникации с QR-кодами на скидку. Это было тяжело, кроме того возникли и технические накладки. Тем не менее этот эксперимент принес значительный инкрементальный (дополнительный) прирост и по количеству визитов в ресторан, и по количеству счетов, и по марже.

Антон Капшуль, главный разработчик:

С начала чемпионата все работало, все было хорошо. Но мы (стыдно признать), как и многие не верили в сборную, и рассчитывали только на 3 групповых матча, и чтобы избежать нагрузок на сервер, как это было в прошлый раз, мы задали ограничение по количеству матчей. Но Россия в итоге сенсационно вышла из группы и пришлось в ускоренном режиме переписывать коды, для того, чтобы акция могла продолжать работать. Больше в сборной России по футболу мы решили не сомневаться. :D

Елизавета Радюк, специалист по маркетингу:

В наших дальнейших планах - добить один из экспериментов, а именно «Блюдо в подарок». Нам хочется понять, как много людей будут приходить и заказывать к своему блюду в подарок еще что-нибудь, и где границы того, как люди перестают это делать, потому что всегда есть клиенты, которые приходят, тупо забирают подарок и уходят на долгое время.

Сегодня мы рассказали о тех [экспериментах], которые показали максимальный результат. Остальные (например возвращение повышенного кэшбека в зависимости от погодных условий, когда клиент получал возврат 20% вместо стандартных 10, если в жару заказывал прохладительные напитки) тоже были эффективными, но не настолько.

Мы все же находим очень крутым, что благодаря проведению экспериментов нашли точно работающие механики, которые можно применять и увеличивать прибыль. Эксперименты в любом случае надо продолжать проводить, поскольку только такой кропотливый научный подход может дать максимальный долгосрочный профит.

Главное, во всей этой работе, это то, что впервые мы не просто отправляли какие-то одноразовые акции и механики, не проверяя их потребительский и поведенческий эффект, но и тестировали это все на гигантском количестве микросегментов (от 39), прорабатывали разные варианты сценариев, их прогоняли, и теперь точно знаем, как надо с этим работать от начала и до конца.

В июне проделанная нами работа была отмечена премией «Loyalty Awards - 2018» за лучшее применение аналитики. Наш кейс не отличается применением инновационных методов, мы использовали классический экспериментальный подход, который может применять каждый. Несмотря на относительную простоту, экспериментальный метод не является стандартом для сферы маркетинга, вероятно, из-за необходимости аккуратного математически выверенного подхода к организации и анализу экспериментов. Мы в агентстве уверены, что будущее CRM- маркетинга за аналитикой и благодаря нашей работе с «Росинтером» и нашей команде Out of Analytics мы к нему готовы еще лучше.

С более подробной версией кейса вы можете ознакомиться на нашем сайте.

88
19 комментариев

Здравствуйте! Скажите, инкрементальный прирост маржи в 17% связан с персонализацией предложений или вы сравнивали его с контрольной группой, которая не получала вообще никаких предложений?

2

Здравствуйте! Рост 17% был в сравнении с контрольной группой, как и положено в эксперименте.
Если еще будут вопросы, задавайте)

Отлично, пишите еще!

3

Спасибо, Алексей! Писать про вообще все или именно кейсы?) 😀

1

Классный кейс, но как вы учитываете осенние и зимние погодные условия, ориентироваться на летний эксперимент не получится, тк результаты нерелелвантны в холодное время года

2

Владислав, в тексте мы упомянули о том, что продолжаем проводить эксперименты. Один из таких - проверка потребительского поведения в разную погоду, в разные времена года. По ним наверняка получатся интересные результаты, с которыми мы обязательно поделимся!

2

Вы серьезно считаете, что компании должны проводить научные эксперименты? Главное - быстрая прибыль!!