Маркетинг
PHYGITALISM

AR и Virtual Production. Технологические решения для онлайн ивентов

Пандемия перевела большую часть нашей жизни в онлайн и мы уверены, что вы тоже устали от стандартных онлайн ивентов с говорящими головами в Зуме за последние полгода. Мы в Phygitalism тоже организовывали мероприятия в карантин, но всегда старались подойти к этому творчески. В этом материале расскажем вам про подготовку прямого эфира с использованием дополненной реальности и virtual production.

О мероприятии и поставленной задачи

Прежде чем углубляться в технологические детали, стоит рассказать о самом мероприятии. Phygital nights - это образовательные вечеринки, которые мы устраиваем в своем Штабе. Дружеская атмосфера, разговоры о технологиях, музыка и вино. На каждой такой вечеринке мы стараемся предлагать новые интересные и технологические решения, приглашать интересных спикеров и, конечно, вести трансляции.

В этот раз мы пригласили медиа директора Яндекс, Даниила Трабуна, обсудить технологические тренды 2021, обсудить ключевые события ушедшего года и дать прогноз на 2021.

Традиционно Phygital Nights был оффлайн мероприятием и проходил несколько раз в год. В 2020 из-за ковидных ограничений нам пришлось выводить мероприятие в онлайн. При этом не хотелось, чтобы это был скучный вебинар в Зуме, от которых люди устали еще весной.

Первый Nights мы провели в виртуальной реальности. Мероприятие можно было посетить используя собственные VR шлемы, или посмотреть Youtube трансляцию.

Phygital Nights в VR

Получив хорошие отзывы после весенней трансляции, мы решили найти новое интересное решение для зимней вечеринки. На этот раз мы хотели интегрировать спикеров и контент из презентации в одну реальность. Перед нами стояла интересная задача, достойная крупной продакшн студии с крутым оборудованием, но мы знаем, что нет ничего невозможного, даже при ограниченных ресурсах.

Итак, зная желаемую конечную цель, мы сконцентрировались на шагах по достижению результата. Мы рассмотрим каждый шаг подготовки для лучшего понимания, на каких технологиях и каким способом была организована работа.

План подготовки к проведению Phygital Nights

Исследование новых механик для трансляции с AR

Способов трансляции 3D контента в прямом эфире достаточно много, однако большинство их них либо технологически трудозатратные, либо достаточно дорогие. Но все это в целом называется простым термином — Virtual Production.

Virtual Production

Когда речь заходит о новых технологиях с применением технологий Unity, стоит обратить внимание на разработчика и евангелиста Unity — Keijiro. Он специализируется на том, что исследует новые механики и публикует исходный код своих решений для того, чтобы другие могли пользоваться его разработками и улучшать их.

Разработки Keijiro

В сентябре 2020 года Keijiro вел разработку RCam2. Это его вторая попытка создания приложения с применением AR эффектов в реальном времени с помощью Unity. Однако если в первой разработке использовалась абсолютно любая камера и трекинг был не самый лучший, то во второй его попытке используется уже iPad Pro 12 оснащенный сканером Lidar.

Цель создания подобного приложения — организация прямой трансляции выступления DJ’ев с их музыкальными сетами и наложением эффектов в дополненной реальности в реалтайм на музыкальном фестивале Boiler Room.

BoilerRoom — Выступление DJ с применением RCam2

RCam2 — это приложение, которые передает огромное количество данных с iPad на компьютер, который обрабатывает всю графику используя высокую мощность видеокарты RTX 2080. Если возникает вопрос, почему же нельзя обрабатывать графику сразу на iPad Pro 12, то объяснение достаточно простое — VFX эффекты работают с помощью Visual Effect Graph системы, а также High Definition Render Pipeline у Unity. iPad передает данные о пространстве с картой глубины, Body Tracking, Face tracking и другие данные, которые можно использовать для визуализации.

RCam 2 наши тесты - заторможенность видео в связи с соединением по WiFi
RCam 2 наши тесты - заторможенность видео в связи с соединением по WiFi

Главная проблема RCam2 — это сами данные и их объем. Для их передачи необходимо использовать сразу два приложения:

  • RCam2 Controller — устанавливается на IPad устройство и представляет собой приложение, где как на диджейском пульте можно включать, микшировать и “играться” с визуальными эффектами.
  • RCam2 Visualizer — устанавливается на мощный ПК. Это приложение само по себе ничего не может и лишь визуализирует эффекты.
RCam 2 наши тесты - тесты перед трансляцией

Для совместной работы обоих приложений используется NDI SKD. Это ПО позволяет передавать видеопоток по WiFi или же по Ethernet кабелю.

При первых тестах и соединению по WiFi мы столкнулись с проблемой — видеопоток передавался с большой задержкой сигнала, что сводилось к невозможному проведению прямого эфира. О данной проблеме Keijiro было известно и он же предложил решение: использовать адаптер Type-C > Ethernet для создания прямого соединения между iPad и компьютером, значительно увеличив пропускную способность видеосигнала. Сам адаптер должен обладать USB 3.0 интерфейсом и пропускной способность до 1000 mb/sec. Данные параметры были проверены на личном опыте.

RCam 2 наши тесты - тесты перед трансляцией

Так или иначе, в стандартном использовании разработка Keijiro работает полностью «из коробки», если соблюдены следующие условия:

  • У вас есть iPad Pro 12 Lidar
  • У вас мощный компьютер (Минимальные системные требования основанные на нашем устройстве будут приведены ниже)
  • У вас имеется адаптер Type-C > Ethernet (Важно наличие USB 3.0)
  • У вас имеется Ethernet кабель достаточной длины (чем больше, тем лучше)

Создание и использование собственного 3D контента для AR презентации

Для Phygital Nights мы подготовили сценарий, который показывал примерный ход всей дискуссии спикера и гостя. Сценарий был представлен в виде таблицы, где в хронологическом порядке располагались технологии, примеры и контент, о котором будет идти речь. Именно с помощью данного документа, нам удалось подготовить несколько примеров в виде 3D моделей, эффектов и т.д. и обновить приложение Keijiro.

Итак, что из себя представлял контент:

Отрывок с Трэвисом Скотом

1. Модель Travis Scott — К нашей удаче, на площадке Sketchfab мы нашли модель Трэвиса Скотта, которая была в игре Fortnite, когда он устраивал свой онлайн концерт. Единственный момент — модель была статичная, а хотелось, чтобы она еще и двигалась, танцевала, как это и было на настоящем концерте во Fortnite. Для этого есть подходящий инструмент — Mixamo. Данный сайт-программа позволяет загружать любую 3D модель гуманоидного типа и генерировать для нее “скелет анимации” (Rig — это в прямом смысле слова набор костей 3D модели, что дает ей информацию, как должны двигаться те или иные части тела. Также скелет симулирует поведение суставов, инверсную кинематику и все остальное, что помогает достигнуть правдоподобных движений 3D моделей). Все что осталось сделать на сайте Mixamo после генерации скелета — это выбрать понравившуюся анимацию и скачать новую модель.

Отрывок с 360 Burning Man

2. 360 Burning Man — Изначально мы хотели показать Burning Man 2020, который перенесли в онлайн по понятной причине. Но после ознакомления с материалом нам показалось, что это будет выглядеть непонятно и не так зрелищно, как хотелось бы. Было принято решение скачать 360 видео с фестиваля прошлых лет и запустить его на фоне спикеров, сделав эффект присутствия на фестивале. Как раз с этой задачей прекрасно справился iPad Pro и RCam2, позволяя вырезать все, кроме человеческих очертаний (Occlusion body).

Отрывок с RCam2 эффектом окклюзии
Отрывок с RCam2 с AR эффектами

3. RCam2 от Keijiro — конечно, главной фишкой всей трансляции были визуальные эффекты на протяжении всей трансляции, которые создавались приложением RCam2 от Keijiro. Приложение позволяло нам проецировать различные эффекты на телах людей, в окружающем пространстве, различные пост процессинг эффекты и т.д. Иными словами — в наших руках была полноценная камера VJ оператора, которая управляла всеми эффектами.

Отрывок с Ритой Орой

4. Rita Ora — еще одна 3D модель, которую мы захотели продемонстрировать, однако для нее было уже сложнее найти готовое или полуготовое решение. Мы не хотели повторяться и поэтому решили сгенерировать свою собственную 3D модель, используя лишь одну фотографию, скачанную из интернета. PiFu HD — это алгоритм нейронной сети, который позволяет создать 3D модель человека основываясь на фотографии. Благодаря этому, нам удалось как продемонстрировать 3D контент в дополненной реальности, так и механику 2D to 3D являющуюся трендовой.

5. Цифровая копия Штаба — Штаб - это место, где мы работаем и проводим свои веселые вечера. Для реализации и создания использовалась его цифровая копия, которая была засинхронена в положении с реальным штабом. Сделано это было, в основном, для подстраховки. Так как некоторый 3D контент мог плохо выглядеть в нашей реальности (например он был слишком велик или же наоборот мал, или мог “застрять” в стене, отчего его не было бы видно)

Таким образом, у нас была камера, которая включала в себя сразу множество функций и работу с контентом:

  • Обычная съемка без эффектов (IPad Pro 12 имеет хорошую камеру)
  • Съемка с контентом дополненной реальности
  • Съемка только контента в бесконечном пространстве
  • Съемка контента и людей, находящихся в цифровой копии штаба

Настройка оборудования для трансляции

Основываясь на опыте проведения Phygital Nights в VR, центр управления трансляцией мы начали устанавливать за два дня, до самого мероприятия. Так как необходимо было проверить все, с чем могут возникнуть трудности.

Пример рекомендаций YouTube к трансляции 1
Пример рекомендаций YouTube к трансляции 2
Пример настроек OBS

Интернет. Самая важная часть в прямой трансляции, это конечно же стабильное интернет соединение. Если ваше интернет соединение плохого качества, то изображение будет плохим, появятся заторможенности трансляции и т.д. Рекомендуемая скорость интернет соединения будет зависеть от выходящего разрешения вашего видео. YouTube предоставляет исчерпывающую информацию с рекомендациям к прямой трансляции по данной ссылке. В ней как раз можно ознакомиться, какие настройки для 4К трансляции должны быть выставлены в приложении (в нашем случае, это OBS Studio) для стабильной передачи сигнала.

Пример экрана с управлением трансляцией OBS

OBS Studio — приложений для ведения прямой трансляции достаточно много и сложно сразу выбрать, какое из них удобнее и практичнее. На наш взгляд, OBS Studio закрывает большинство потребностей по настройки композиции кадра и источников захвата. Так, в нашем случае, было несколько разных сцен с разными настройками, между которыми мы переключались и меняли ракурсы камеры и т.д. Задача оператора, который сидел за центром управления трансляцией — переключение между этими сценами исходя их сценария и хода дискуссии.

  • Scene 0 — базовая сцена с заставкой прямая трансляции. Ее мы включали лишь начале трансляции и в конце. Также данная сцена была на случай непредвиденной ситуации, если, например, все камеры выключатся или нужен будет технический перерыв.
  • Scene 1 — видео из приложения RCam2,в которое поступало видео с iPad по Ethernet. (Как это происходило мы описывали выше)
  • Scene 2 — видео с первой камеры Kinect 2.0 с общий ракурсом на спикеров.
Scene 1 - камера IPad Pro 12
Scene 2 - камера Kinect 2.0
Scene 3 - презентация с ракурсом на спикеров Kinect 2.0

Камеры и веб-камеры. Мы использовали два Kinect 2.0 для захвата видео. В идеале съемка должна происходить на профессиональные видеокамеры, однако в таком случае поток данных будет еще больше и нагрузка на интернет окажется существенной.

Бэкстейдж центра управления трансляцией

  • Площадка и место После того, как все настроено и оператор с iPad без проблем перемещается по площадке, необходимо также выставить свет в кадре. Лучше всего с этой задачей справляются софиты для подсветки мягким светом. Почему это так важно? Дело в том, что камеры, а особенно веб-камеры, имеют слабую светочувствительность, поэтому если у вас темное пространство, стоит обеспечить достаточную освещенность кадра
  • Микрофоны - обычно мы использовали микрофоны, которые сразу выводились на аудиосистему, однако для прямой трансляции такой звук будет слишком шумным, так как помимо речи спикеров, микрофон собирает все звуки вокруг. Правильное решение - микрофоны петлички с шумоподавлением, для каждого спикера. Таким образом можно сразу отсечь все шумы окружающего пространства, а голос будет четко слышен, и при записи, и во время прямого эфира.

  • Взаимодействие со зрителями и прямым эфиром - пойти не так может практически все что угодно, поэтому важна в первую очередь итоговая картинка - то, что видит сам зритель. Необходим отдельный человек, который в наушниках прослушивает прямую трансляцию и сразу отдает информацию о качестве эфира человеку в центре управления трансляцией. Тихо, слишком громко, не видно картинку и другие проблемы необходимо решать по мере их поступления. Также, именно этот человек будет связующим звеном и голосом зрителей, если у них есть какой либо вопрос к спикеру. Конечно, спикер и сам может видеть чат YouTube трансляции или же получать копии вопросов в виде сообщений на экран своего ноутбука.

  • Тишина - последний и не такой важный аспект, это “тишина на площадке”. Главными зрителями на прошедшем Phygital Nights были зрители трансляции, поэтому было важно следить за качеством звука. Также, тишина помогала спикерам вести более глубокую дискуссию, не отвлекаясь на посторонние шумы.

Phygital Nights на Youtube

В прошлой статье о Phygital Nights в VR мы писали, как смена формата позволила сократить количество людей, ответственных за проведения мероприятия.

Мы вели фотофиксацию мероприятия, чтобы показать наглядно, как нам удалось совместить физическое мероприятие с цифровым контентом, в очередной раз создав интересный микс.

Важную часть Phygital Nights занимает взаимодействие со спикерами, возможность задать им свой вопрос и поговорить после лекции. Конечно, в онлайн формате последнее сделать труднее, однако мы старались максимально погрузить аудиторию в атмосферу вечеринки. Скажем по секрету, люди, которые были в штабе в момент мероприятия, параллельно смотрели эфир на смартфонах, чтобы не пропустить визуальные эффекты

Павел Постников
XR режиссер Phygital Nights

Мы собрали статистику по подготовке мероприятия в онлайн и офлайн форматах. Мы намеренно разделили запись и прямой эфир, так как многие досматривают трансляцию в записи - это помогает понять более точно, насколько контент актуален для аудитории.

Вывод

В 2020 году каждая компания столкнулась с экстренной цифровизацией и переводом большинства активностей в онлайн. Многие стали активно проводить вебинары, круглые столы онлайн и конференции, но аудитории быстро приелся формат “говорящих голов”.

Наш опыт показал, что не боясь экспериментов, можно найти решение которое будет свежим, эффективным и даже менее трудозатратным, чем офлайн ивент. Новый формат прямого эфира с дополненной реальностью в два раза превысил посещаемость и досматриваемость материала в записи по сравнению с обычными вебинарами. Как плюс, мы получили и до сих пор получаем отличный фидбек от зрителей.

Поэтому если вы решили организовать свое онлайн мероприятие, посмотрите в сторону технологий дополненной и виртуальной реальности, а также virtual production, которые уже активно взяли на вооружение крупные компании.

Эфир Phygital Nights с Virtual Production
{ "author_name": "PHYGITALISM", "author_type": "self", "tags": [], "comments": 1, "likes": 1, "favorites": 3, "is_advertisement": false, "subsite_label": "marketing", "id": 207099, "is_wide": false, "is_ugc": true, "date": "Wed, 10 Feb 2021 17:44:16 +0300", "is_special": false }
0
1 комментарий
Популярные
По порядку

Электрический завод

2

Это какая-то локализованная версия «I'm fine» — есть в этой картинке что-то из 2020-го. Если не весь 2020-й целиком 🤭

Ответить

Комментарии

null