«Обвинять дипфейки в неэтичности — все равно что ругать цепную ядерную реакцию за последствия бомбардировок»

Генеральный директор Deepcake.io Мария Чмир — о том, почему дипфейки несут обществу больше пользы, чем вреда.

— Большинство понимают под дипфейками исключительно поддельные видео со знаменитостями развлекательного характера. Но известно, что сфера применения технологии не ограничивается только ими. В бизнесе дипфейки используются для того, чтобы доносить определенные идеи брендов. Так, например, в образовательных проектах подобные решения используют в необычных корпоративных видеороликах, в кино — для оптимизации производства. Как Вы считаете, каковы коммерческие перспективы этой технологии?

— Важно определиться, что мы подразумеваем под дипфейками. Если отойти от концепции «поддельных видео со знаменитостями развлекательного характера» и сфокусироваться на генеративной природе технологии, то нам откроется широкий спектр кейсов применения, в том числе коммерческих.

Открытые в 2014 году генеративно-состязательные сети помогают восстанавливать изображения — например, при реставрации довоенных картин для повторного проката. С их участием дизайнеры визуализируют интерьеры, одежду и даже архитектурные сооружения. Ну а синтез виртуальных человекоподобных аватаров применим в огромном количестве индустрий: цифровых моделей уже нанимают на работу топовые fashion-бренды, их используют в качестве ведущих телепрограмм, они могут выполнять функции консьержей и банковских консультантов. За неоднозначным словом «дипфейки» на самом деле десятки полезных сервисов.

— Известны случаи, когда компаниям был нанесен ущерб при помощи дипфейк-роликов — не только репутационный, но и финансовый. Как следует действовать компании, если она стала жертвой дипфейка? Можно ли минимизировать эффект от такого рода контента и избежать потери доходов, если вирусный ролик попал в сеть?

— Очевидно, если бизнесу нанесли ущерб, то стоит обращаться за помощью к юристам и правоохранительным органам. Статья 129 Гражданского кодекса Российской Федерации предусматривает право требовать по суду опровержения порочащих честь, достоинство или деловую репутацию сведений, если распространивший такие сведения не докажет, что они соответствуют действительности.

Кроме того, практически любая платформа позволяет пожаловаться на контент, нажав на кнопку «Нарушение моих прав» и выбрав опцию «претензия юридического характера». Дальше нужно обстоятельно объяснить ситуацию. Как правило, платформы реагируют в течение нескольких часов. Как работать с такими кейсами в репутационном ключе — каждый решает сам.

Недавно дипфейкеры использовали образ предпринимателя Дмитрия Мацкевича для продажи сомнительных курсов. Дмитрий отреагировал на дезинформацию с юмором и похвалил ребят за находчивость.

— Как Вы считаете, где пролегают границы технологии дипфейк? Нужно ли оценивать влияние фейк-контента с точки зрения не только закона, но и этики?

— А как Вы оцениваете с точки зрения этики продукты, которые делают в фотошопе? Дипфейки сегодня — это завтрашний фотошоп, который будет доступен каждому. Обвинять технологии в неэтичности, на мой взгляд, бессмысленно. Это как ругать цепную ядерную реакцию за разрушительные последствия бомбардировок. Да, нам придется стать чуть более чувствительными к входящей информации, проверять новости на подлинность: цифровая гигиена и фактчекинг — один из главных трендов ХХI века. Технологии детекции подделок, которые развиваются синхронно с их созданием, тоже помогут в автоматическом режиме вычислять и удалять дипфейки на уровне платформ.

— Дипфейки могут быть забавными, однако некоторые способны нанести ощутимый вред. В США в связи с этим ввели два закона, ограничивающие использование технологии. На Ваш взгляд, нужно ли маркировать фейки и штрафовать тех, кто их распространяет?

— Технологии детекции подделок, которые развиваются синхронно с технологиями их производства, помогут в автоматическом режиме вычислять, помечать или удалять дипфейки на уровне платформ. При этом задача обнаружения контента, созданного с применением генеративных сетей, отнюдь не тривиальна.

— Разработки ведутся университетами-лидерами под патронажами IT-гигантов: в этом преуспели Intel и Бингемтонский университет с помощью алгоритма отслеживания 32 точек на лице, которые называются «клетками фотоплетизмографии» — при существенном увеличении областей кадра исследователи зафиксировали, что реальные снимки «шумят» иначе, чем фейковые.

— Использование технологий ИИ стало одной из ключевых тем IPQuorum 2021: Tech for Content. Какую роль играет ИИ в развитии креативных индустрий? Насколько технологии ИИ были востребованы во время пандемии и как COVID-19 изменил отношение к ним?

— Креативный сектор — кинематограф, реклама, дизайн, медиа и даже искусство — пионеры в области применения нейросетевых технологий. Мы можем разделить задачи, решаемые с помощью ИИ, на три больших класса: создание и улучшение контента, извлечение и анализ информации, а также применение ИИ в творчестве в качестве соавтора или оригинального творца.

В 2018 году на аукционе Sotheby's за почти полмиллиона долларов был продан портрет, сгенерированный алгоритмом. В прошлом году певица Grimes вместе со стартапом Endel синтезировала бесконечную колыбельную. Фильм «Солнечный источник», сценарий которого написала рекуррентная нейронная сеть по имени Бенджамин, был снят уже пять лет назад и получил номинацию на престижную британскую кинопремию.

Конечно, ведутся споры о том, можем ли мы считать данные работы искусством, но ведь когда-то импрессионистов тоже не причисляли к настоящим художникам. Пандемия ускорила глобальную цифровизацию. К нам, например, стали чаще обращаться бренды и рекламные агентства, которые из-за закрытых границ не могут свободно проводить кастинг. Мы помогаем им сгенерировать нужных актеров, используя доступных дублеров.