«Проверьте приложение на COVID», или история одной разблокировки в Google Play

В середине мая по стору прокатилась волна автоматических банов, связанных с упоминанием вирусов в контенте самых разных продуктов. Наше приложение со 180 тысячами активных пользователей оказалось под угрозой. Из двух попыток его спасти мы честно завалили одну.

В итоге все закончилось хорошо, но это не первая подобная волна: и мы решили поделиться алгоритмом действий, которые вы можете предпринять, если окажетесь в подобной ситуации — особенно если производите свой контент.

На почту, связанную с нашими аккаунтами в сторах, пришло «письмо несчастья».

Красочно оформленный шаблон сообщал, что приложение для изучения английских слов заблокировали «согласно пункту 8.3 правил для разработчиков, так как приложения, упоминающие COVID-19 или связанные термины, могут быть допущены в маркет, только если они изданы или авторизованы государственными органами или организациями системы здравоохранения».

<p>Почта no-reply как бы намекает. На деле, для апелляций есть другой канал, иногда там даже отвечает человек.</p>

В самих правилах для разработчиков не было списка тех самых «связанных терминов» или рекомендаций на этот счет. Конкретных ссылок или скринов из нашего приложения, нарушающих правила, Google также не приложил. А пункт 8.3, на который ссылается письмо, был максимально размыт: по сути, «вас могут заблокировать по любому подозрению в нарушении любого применимого законодательства или любых применимых политик».

Но коронавирус как источник всех бед был указан достаточно четко. В условиях решений властей о борьбе с фейк-ньюс о вирусе команда стора могла перестраховаться и превентивно забанить все случаи, хоть как-то подходящие под алгоритм. То, что наш контент анализировал бот, было понятно сразу. Также было понятно, что какие-то упоминания коронавируса могли быть в материалах.

Когда вокруг в режиме 24/7 говорят только о нем, а у вас есть отдел, обновляющий контент для приложения и соцсетей, вполне вероятно, что ребята обыграют эту ситуацию.

Поэтому мы:

Стали искать упоминания аналогичных случаев в сети — они были, но готовых рецептов не было ни у кого. Зато мы поняли, что история реально массовая.

Стали искать контакты в Гугле: через знакомых, знакомых знакомых из индустрии и т.д. Сразу получили от них несколько инсайтов, например: «Все в итоге признают, что что-то сделали не то. 100% где-то накосячили. Могли смайлик не тот поставить — и это повод». Стали присматриваться к мелочам: вплоть до иконок, эмодзи и деталей иллюстраций.

Договорились с контент-командой, что на случай ребята воздержатся в соцсетях от публикации видео, статей или сторис, где может упоминаться тема коронавируса (например, советы по дистанционному обучению в период пандемии). Эти материалы в нашем случае могут подтянуться в приложение.

Написали по каналу, предназначенному для апелляций: признали, что мы не имеем отношения к государственным органам и сектору здравоохранения, что какие-то термины могли использоваться и вот это все. Попросили деталей. В ответ получили совет: «Уберите любые связи с коронавирусом из метаданных: названия приложения, описания, примечаний к релизу, либо скриншотов».

Проверили контент приложения: и нашли косяк в метаданных.

<p>Помогите ребятам найти, где они накосячили)</p>

Если тоже не разглядели сразу, приблизим:

Мелкая деталь на картинке на скринах в сторе = два дня развлечений для всей команды.

Мы выпилили эту картинку, также на случай убрали из приложения ссылки на статьи, видео и сторис с упоминанием обучения на карантине, самоизоляции, волонтерства и помощи врачам в период пандемии — деактивировали старый и залили новый билд по инструкции, но …

В 6 утра 14 мая история продолжилась — новый билд зареджектили. У нас осталась одна попытка до полной блокировки девелоперского аккаунта. Но спасибо Гуглу, что хотя бы не разослал текущим пользователям пуши с советом удалить версию приложения, установленную до блокировки (по правилам он так может).

<p>Вишенка на торте: мы потеряли возможность заливать исправления. Осталась только апелляция по почте.</p>

Тогда же появилась новая зацепка, которая навела на мысль, что проблема может быть масштабнее: мы поняли, что бот может ходить в наш словарь.

График заражений в Германии из новостей как иллюстрация к слову “ситуация”.

Словарь мог содержать десятки, если не сотни иллюстраций или слов, хоть как-то относящихся к теме: «пандемия», «маска», «социальная дистанция» и тому подобное. Были и более «очевидные» вещи.

Ради интереса, вбейте «вирус» в поиск по картинкам в любимом поисковике — и получите очень похожий результат. «Это жизнь такая» (с)

При этом тренировка слов — одна из ключевых фишек приложения. Пообещать выпилить ее не вариант: это как обещать отпилить себе ногу, чтобы вас допустили к марафону.

Но если не найти решение, потеряем 180к активных пользователей, их историю, оценки и т.д.

Стали действовать на ощупь:

По аналитике поняли, по каким частям приложения ходили боты. Это один из вариантов локализовать возможные проблемы. Узнали, что боты заходили в словарь, видео и уроки.

Включили режим параноика. Решили собрать все возможные слова и уроки, которые могли быть хоть как-то связаны с темой медицины, карантина и пр. Также собрали все потенциально опасные внешние ссылки в разделе видео. Внутренний параноик также говорил: «А что, если мы покажем пользователю ничего не нарушающее видео с Youtube, а в рекомендациях к тому видео всплывет…», — поэтому в итоге скрыли видео совсем.

Сделали свой список из 9 очень опасных слов («пандемия», «вирус» и пр.), 50+ потенциально опасных слов (официального списка нет, так что включаем фантазию) и 900+ мест, где они упоминались. Скрыли весь этот контент. Опции «скрыть по параметрам» в админке, откуда брался контент, не было — мы срочно дописали ее для этого случая.

Убрали ссылки на социальные сети, потому что мало ли что будет опубликовано там, — параноик-мод был по-прежнему включен на полную.

А параллельно составляли вторую версию апелляции, стараясь максимально разжевать и аргументировать.

Рассказали, что наше приложение используется для дистанционного обучения, которое особенно актуально во время карантина. Еще раз признали, что по этой причине у нас могут встречаться потенциально связанные с COVID ключевые слова — в контексте образования.

Детально перечислили, что уже сделали, чтобы поправить ситуацию: и те вещи, что удалили в прошлый раз, и новые меры. Рассказали, что составили свой список потенциально проблемных слов (вплоть до слов «вакцина» и «лёгкие»), скрыли их в уроках и словаре. Также объяснили, почему уроки и словарь — критический для приложения функционал.

Приложили все возможные пруфлинки на связь продукта и компании с образованием: образовательную лицензию, ссылки на упоминания в крупных СМИ в нужном контексте, упоминание в списке социально-значимых информационных ресурсов, составленном Минкомсвязи… В общем, всё, что может иметь хоть какой-то вес.

Отправили по официальному каналу, а также продублировали обращение на внешнем форуме Google Play и ресурсах для Android-разработчиков.

Сначала нам написали, что изучают апелляцию и приложенные документы. Еще через день нам разблокировали страницу разработчика и дали возможность восстановить приложение. Мы залили билд, в котором было по-максимуму отключено все… И прошли проверку!

Честно, до сих пор не знаем, что из этого сработало. И едва ли нам об этом скажут прямо, но на будущее посоветуем себе и всем:

Первые ответы на обращения могут присылать роботы (есть такое подозрение), потом вы прорветесь к человеку. Конкретных деталей он не даст, но в целом вести переговоры по официальному каналу — все, что вы можете.

Будьте предельно конкретны и открыты: рассказывайте той стороне о шагах, которые предпринимаете, чтобы разрешить ситуацию, спрашивайте уточнений на основе уже предпринятых шагов. А также сразу старайтесь рассказать как можно больше хорошего о себе и погрузить в контекст продукта.

Сразу продумывайте разные версии и причины — вплоть до жалоб конкурентов. Что могло стриггерить? А что еще? Лучше перебдеть и побыть неделю параноиком, а потом постепенно убрать ненужные ограничения в новых билдах, чем потерять на время доступ к аккаунту разработчика — а то и все, что было связано с аккаунтом. У вас есть максимум пара попыток: лучше тратить их с умом, как желания у джинна.

P.S. Спустя две недели мы узнали, что наше приложение попадает под категорию «Eligible COVID-19 apps». Этим приложениям можно использовать контент, в котором коронавирус упоминается вне связи с медициной. Например, анализировать экономический и социальный эффект, давать советы, как лучше проводить самоизоляцию и т.д.

Подробности можно почитать в публичном разъяснении Google — но мы пока решили придерживаться выработанных командой критериев и модерировать контент в приложении.

16 комментариев

Сергей Михалёв

10.06.2020

Очередной пример зависимости от корпораций, в которой находятся все разработчики. Серьезная продуктовая компания вынуждена как школьник извиняться ни за что и бегать собирать справки. И ведь действительно могут удалить весь акк особо не разбираясь, и миллиардному бизнесу конец.

Спасибо, что поделились.

Ответить

Roman

Треш какой-то🙈
Проверьте теперь себя на упоминание негров, лгбт и всего остального))

Evgeny Titarenko

👍

Это прям адище, что Гугл устроил.
Наше приложение BenefittY тоже забанили в Google Play на сутки по причине того, что мы на иконке разместили хэштэг #лучшедома.
Причём у многих сервисов такой хэштэг размещён без проблем.
Аппеляцию быстро удовлетворили, но юзерам посыпались уведомления, что приложение не безопасное. В результате потеряли много активных пользователей.