{"id":13473,"url":"\/distributions\/13473\/click?bit=1&hash=0230b2c9c1795327978777f68c1836f3d5cbb11c39f14294a4fd37999e00f14c","title":"\u041a\u0430\u043a Tele2 \u0441\u0434\u0435\u043b\u0430\u043b \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u0434\u043b\u044f \u043f\u0440\u043e\u0434\u0430\u0436\u0438 \u043d\u0435\u0438\u0441\u0442\u0440\u0430\u0447\u0435\u043d\u043d\u043e\u0433\u043e \u0442\u0440\u0430\u0444\u0438\u043a\u0430","buttonText":"","imageUuid":"","isPaidAndBannersEnabled":false}
Трибуна
Maria Chmir

Pantomime — дипфейк-стикеры в один клик

Мы сделали сервис для анимации фото на нейронках, который научит вашего пса гримасам как у Обамы.

Главная страница сервиса. Слева примеры, справа грузить своё изображение. Всё просто.

Как всё начиналось

Наша команда 8 лет экспериментировала с компьютерным зрением и производством контента. В апреле 2019 мы стали пристально вглядываться в набирающий обороты тренд на synthetic media. На ютубе появлялось всё больше роликов, в которых политикам заменяли лица на неожиданных персонажей, в сми поднималась волна негодования по поводу сокрушительной силы новых технологий. А на реддите, как грибы, плодились порно-треды со знаменитостями в главных ролях фильмов для взрослых.

Уже ставший культовым ролик, в котором Джордан Пил «вкладывает в уста» Обамы fake-спитч

Нам было интересно найти практическое применение этим развлекательным технологиям, полезное бизнесу и пользователям. Так появился Dowell — проект по реалистичной генерации лиц на видео. Мы сфокусировались на решении проблем рекламного и кинопродакшнов: бесшовные замены лиц каскадеров и дублеров, сокращение съемочных смен с участием селебрити, омоложение актеров без компьютерной графики, оживление умерших героев без эксгумации и много других креативных историй.

Через несколько кейсов нам стало понятно, что есть несколько барьеров, препятствующих масштабированию. Во-первых, у профессионального рынка крайне высокие требования к качеству «картинки» — продюсеры привыкли к безупречному изображению, а непредсказуемые нейронные сети не отличаются постоянством в продакшне. Во-вторых, каждый такой кейс — уникален, что порождает проблемы № 2 и № 3: сложное управление, с которым маленькая команда буксует, и длинные переговоры, согласования и правки, которые не добавляют стартапу плюсов в карму.

При этом к нам стало поступать всё больше обращений, связанных с персонализацией контента: бренды и сервисы хотят поместить пользователя внутрь вселенной, которую они создают, дать почувствовать себя героем любимого шоу, например. Но наши высокореалистичные, но очень медленные нейронки, которые мы делали для Голливуда, тут явно не подходили.

Тогда мы сместили фокус на более гибкие архитектуры и начали проектировать решение для широкой аудитории пользователей.

Проект Dowell для науч-поп блогера Яна Топлес: реалистичная генерация головы на видео. Такую технологию можно продавать Голивуду, но не маркетологам, которым нужна генерация «здесь и сейчас»

Идея сервиса Pantomime

Персонализация — необъятная тема, которой занимаются сегодня миллионы компаний: от Snapchat с функцией анимированных персонажей Cameo до российского FaceApp, позволяющего совершить гендерную трансформацию в один клик. Мы сосредоточились на сегменте персонализации общения.

Текст, который тысячелетиями был универсальной формой передачи информации, стремительно уступает различным визуальным сущностям. Даже самые стойкие любители высокого слога не заметили, как гифки вытеснили голосовые (хвала!) и смайлы. А потом и саму речь: вместо тысячи слов мы стали коммуницировать анимированными изображениями.

Недавняя сделка Facebook по приобретению сервиса Giphy за баснословные $400M только подтверждает, как плотно обосновались в наших мессенжерах движущие картинки, и в ближайшее время они точно не собираются оттуда уходить. Мы решили поддержать тренд на быстрое и ироничное общение и придумали Pantomime — сервис, который за считанные секунды превратит ваш портрет в говорящую гифку. За основу мы взяли оупенсорсное решение, которое нам предстояло драматически ускорить и адаптировать с учетом комфортного пользовательского опыта.

Автоматическая анимация: немного теории

Традиционный и всем известный способ анимировать изображение — компьютерная графика. Она требует специализированных навыков, и обычно для работы с объектом CG-художнику необходима 3D-модель этого объекта. Большинство существующих подходов, автоматизирующих анимацию, основываются на глубоком обучении генеративно-состязательных нейросетей (GAN) и вариационных автоэнкодеров (VAE). Данные модели часто базируются на предобученных модулях для поиска ключевых точек объектов на изображении. По этим точкам и происходит генерация. Главная проблема подхода — данные модули способны распознавать только объекты, на которых они были обучены. То есть при попытке показать алгоритму новое изображение мы можем нарваться на непредсказуемый результат.

Таким образом, нам предстояло решить задачу синтеза произвольных объектов в кадре. В конце февраля решение предложили ученые из университете Тренто. Их статья First Order Motion Model for Image Animation содержала описание модели, которая способна оживлять картинки без предобучения на желаемом объекте (лице, в нашем случае). Авторы уже обучили свой алгоритм на большом массиве видеороликов, сгруппировав объекты по категориям.

Мы работали с той частью алгоритма, которая отвечает за оптимизацию работы модели под нагрузкой: для того, чтоб большое количество пользователей одномоментно смогли получить свои гифки и воспользоваться ими по прямому назначению, мы протестировали несколько вариантов сервировки модели. Сегодня алгоритм по-прежнему не идеально справляется с большим наплывом пользователей, и мы непрерывно стараемся улучшить работу сервиса на уровне UX.

Забудьте про гифки. Всем мим!

Да-да, мы все знаем про приложения, которые позволяют нашим волосам развиваться на ветру, волнам — закручиваться в барашки, а солнышку — описывать круг с ладошки за горизонт. Они делают наши инстаграм-истории более стильными (или нет), но не затрагивают главное — эмоции и чувства. Для MVP нашего Pantomime мы выбрали 20 любимых всеми гифок (от злобного Гринча до Not Bad Meme) и обучили нейросеть переносить мимику с них на любые фото: ваши селфи, портреты друзей, произведения искусства или даже пикчи с домашними животными.

Такую мимику мы перенесли в наш сервис. Ваша фотография может расплыться в такой же улыбке. Но выглядеть это будет, конечно, дружелюбнее.

Вы можете превратить любую фотографию в анимированный стикер за пару секунд или без слов описать свое актуальное состояние для подписчиков в соцсетях. Кстати, сервис работает не только с фотографиями людей, но и с фото животных, картинами и рисунками. Мы назвали наши анимированные фотографии «мимами», и судя по первым 5000 пользователей, которые воспользовались сервисом за первые 12 часов после запуска, оно войдет в обиход.

Что дальше?

Сейчас мы дорабатываем более быстрое решение для анимации лиц, которое позволит решить проблему с ожиданием генерации мима: в скором времени пользователей, оставивших почту на сайте и тех, кто присоединился к нам в телеграм-канале Pantomime, ждет приглашение в бета-версию приложения.

Наше face-swap направление тоже продолжает развиваться, и уже этой осенью мы объявим о релизе нового проекта, который поможет всем желающим почувствовать себя кинозвездами. А пока подписывайтесь на наш канал на Youtube, где мы начали публиковать злободневные видео, которые заставят вас улыбнуться.

Всем мим!

0
36 комментариев
Написать комментарий...
Олег

Такс, вам полгода на раскачку, потом вас покупает инстаграм, договорились?

Ответить
Развернуть ветку
Maria Chmir
Автор

We do:)

Ответить
Развернуть ветку
lakoros

Котиков не определяет! всё сервис не нужон...

Ответить
Развернуть ветку
Andrey Chaban

Так есть приложение на телефон. Более того там можно собственные эмоции создавать водя пальцем по экрану. Muglife если я не ошибаюсь. 

Ответить
Развернуть ветку
Andrey Chaban

Работает очень быстро и без интернета 😆

Ответить
Развернуть ветку
Maria Chmir
Автор

Да, классное приложение. На мой взгляд, оно уводит фото в мультяшность — это прикольно, но нам было интересно остаться в эстетике реализма. 

Ответить
Развернуть ветку
Pavel Antonenko

Я бы вашем месте сделал эти примеры кликабельными, чтобы в один клик можно было попробовать, как ваша технология работает. Не всегда хочется искать картинку в интернете.

Ответить
Развернуть ветку
Maria Chmir
Автор

Они не кликабельные, но анимированные на самом сервисе: можно даже без клика увидеть, как работает наша технология. 

Ответить
Развернуть ветку
Вячеслав Боровик
Ответить
Развернуть ветку
Джефри Лебовский

Неплохо)

Ответить
Развернуть ветку
Забор крови

Что ж, неплохо. По крайней мере фотографии дают узнаваемые эмоции.

Ответить
Развернуть ветку
Maria Chmir
Автор

Ура!)

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Irina Lbova

а на котиках не работает? Только на собаках?

Ответить
Развернуть ветку
Maria Chmir
Автор

Еще как работает! Пробуй) 

Ответить
Развернуть ветку
Andrey Borg

с котами пока жутковато

Ответить
Развернуть ветку
Maria Chmir
Автор

А попробуйте покрупнее кота снять! 

Ответить
Развернуть ветку
Andrey Borg

Ну вот , уже сервер перегружен)

Ответить
Развернуть ветку
Maria Chmir
Автор

До конца дня будет сильно быстрее. Держитесь (это я больше нам:))

Ответить
Развернуть ветку
Danya Salov

Крутой сервис, жду улучшений!

Ответить
Развернуть ветку
Ольга Яшина

пойду-ка опробую на своем собакене))

Ответить
Развернуть ветку
Maria Chmir
Автор

И как?)

Ответить
Развернуть ветку
Bullet Time

Не работает

Ответить
Развернуть ветку
Александр Овчинников

Ору с котиков, ребят вы классные xDdd

Ответить
Развернуть ветку
Evgeniy Bubniv

1. Сервис временно недоступен, пожалуйста, повторите попытку позже. 
2. По умолчанию на HTTPS не кидает.

Ответить
Развернуть ветку
Maria Chmir
Автор

Никаких проблем в логах со стороны бэка не видим. Проверили, работает. Пожалуйста, не сдавайтесь, попробуем еще раз. 

Ответить
Развернуть ветку
Сергей Ефремов

Ошибка при загрузке файла, пожалуйста, повторите попытку позже. А до этого сервис был временно недоступен. 

Ответить
Развернуть ветку
Сергей Ефремов

Исправили название ошибки :)
Ошибка при загрузке файла, пожалуйста, используйте портретное фото в форматах jpg, jpeg, png, и размером не более 10Мб.

Ответить
Развернуть ветку
Maria Chmir
Автор

А вы кого загружали, если не секрет?

Ответить
Развернуть ветку
Сергей Ефремов

Кота :) И в портретной ориентации в формате jpg с размером <10mb, и в альбомной. Попробовал людей - все заколосилось.

Ответить
Развернуть ветку
Maria Chmir
Автор

Сергей, буду вам очень благодарна, если напишете мне в телегу: очень хочется посмотреть на примеры фоток, которые плохо отрабатывают. Меня легко найти — mchmir;)

Ответить
Развернуть ветку
Тофсла, Вифсла и партнёры
Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
lakoros

К стоматологу.

Ответить
Развернуть ветку
Sergey Smirnov

Есть Avatarify для iOS. Работает вполне не плохо при этом камера отслеживает твою мимику и добавляет анимацию на фото.

Ответить
Развернуть ветку
Отличный Никита

Здесь нужна не просто фото а портрет крупным кадром. Желательно анфас или пол оборота.

Ответить
Развернуть ветку
Читать все 36 комментариев
null