Deepfake: зло или благо? Порно, воровство данных и арест Трампа

Привет, это Kotelov digital finance. Сегодня говорим о дипфейках, которые могут рушить репутацию политиков и медийных личностей, понижать котировки компаний и воскрешать умерших персонажей.

В гостях Александр Паркин — эксперт в области компьютерного зрения, руководитель VisionLabs.

На подкасте мы много говорили про распознавание лиц с помощью биометрии и пришли к теме дипфейков. Что это? Как обезопасить себя? Как создают дипфейки и какая у них архитектура?

Мы написали несколько статей по этому подкасту:

  1. Как технология распознавания лиц помогает в борьбе с финансовыми мошенничествами? — можно прочитать по ссылке

  2. Deepfake: зло или благо? Порно, воровство данных и арест Трампа — Вы здесь

Ниже мы собрали самое важное из подкаста в формате статьи, но полную версию выпуска можно посмотреть здесь.

Что такое deepfake? Как обезопасить себя?

По всей сети гуляют изображения с Папой Римским в Balenciaga и фотографии с задержанием Трампа. Как вовремя понять, что перед тобой дипфейк? Как обезопасить свою репутацию, если конкуренты пытаются опорочить ее с помощью дипфейков?

Deepfake: зло или благо? Порно, воровство данных и арест Трампа

Если коротко, то чтобы защититься, нужно научить другие нейросети отличать реальные изображения от фейковых.

Чем больше новые нейросети дают возможностей для мошенничества, тем больше будет новых инструментов для защиты, распознавания фейков и тд. Как раз этим и занимается VisionLabs.

Дипфейки реально опасны и могут принести вред в двух случаях:

  1. Клевета и ухудшение репутации

Дипфейки часто появляются среди огромных массивов данных и у людей не хватает внимательности или времени на то, чтобы подумать и определить перед собой фальшивку. Таким образом можно сильно подпортить репутацию как публичной личности, так и крупной государственной организации.

Как бороться:

Детектировать изображения с помощью другой специально обученной нейросети. Добавить плашки, что контент фейковый, как было во время ковида.

Deepfake: зло или благо? Порно, воровство данных и арест Трампа

2. Взлом личного кабинета

Например, во время авторизации через веб-камеру поставить дипфейк. Войти в личный кабинет в банке и перевести деньги на другой счет. Если тут еще можно как-то успеть вернуть ситуацию обратно, то что делать, когда тоже самое произойдет с криптовалютным кошельком?

Как бороться:

Улучшать, усложнять алгоритмы и архитектуры нейросетей, чтобы они могли детектировать дипфейки через веб-камеру.

Какие сети и архитектуры используются для создания deepfake-контента?

Если объяснить буквально на пальцах, то блоки алгоритмов можно разделить на две части:

  • Учим сеть сжимать лицо и разжимать обратно

Сжимаем изображение с Васей до 16х16, а потом разжимаем до исходного изображения. Потом берем лицо Виктора, которое хотим подставить — сжимаем его и разжимаем на исходной фотографии Васи.

Необходимо: много изображений и видео каждого из объектов.

  • Учим сеть сжимать и менять изображение в сжатом состоянии

Сжали фотографию Васи, поменяли что-то внутри, с помощью генеративной нейросети разжали. Сразу после этого получается лицо Виктора с телом Васи.

Необходимо: достаточно одного изображения Виктора.

Какие преимущества имеют deepfake-технологии?

Какие позитивные свойства дипфейков используются в мире:

  1. Порно
  2. Киноиндустрия
  3. GameDev
  4. Lipsing
  5. Реклама

Почему в многомиллионной киноиндустрии есть кейсы с очень некачественным дипфейком?

Сцены с Поллом Уокером из Форсажа или Принцессой Леей из последних частей Звездных войн: компании имели огромные бюджеты, но сделали плохие дипфейки. Почему?

Причин несколько:

  1. Во время съемок Форсажа дипфейки только развивались, поэтому не было возможности сделать качественно, как сейчас.

Deepfake: зло или благо? Порно, воровство данных и арест Трампа

2. Эффект Зловещей Долины

Когда мозг замечает небольшие неточности, которые не соответствуют его понятию о нормальном. Тогда он начинает бить тревогу и всячески сигнализировать об опасности.

💡 Механизм уходит корнями во времена, когда нужно было за долю секунды определить, что это не ветка, а змея.

Как долго в среднем занимает создание качественного deepfake-видео с использованием современных технологий?

Около 108 часов или миллиона эпох

Дипфейки: зло или благо?

Мы выяснили, что с помощью дипфейков можно порушить чью-то репутацию или ввести в заблуждение миллионы людей, которые просто не заметят подвоха в потоке информации.

А можно снимать фильмы с людьми, которых уже нет в живых, можно создавать невероятные видеоматериалы, о которых раньше даже подумать было нельзя.

А вы как считаете? Дипфейки: элемент прогресса или зло, которое нужно срочно запретить? Пишите свои ответы в комментариях и подписывайтесь на Kotelov digital finance, чтобы следить за новыми выпусками.

1515
3 комментария

Через 20 лет я буду пересматривать фильмы со своим (молодым) участием в главной роли. А также воткну всех своих друзей, родню. Будет весело :)

1
Ответить

"Какие позитивные свойства дипфейков используются в мире:
Порно"
Вот вообще не позитивное свойство, ваше лицо могут поставить под видео и шантажировать вас, тоже самое могут сделать с вашей девушкой и т д

Ответить

Однозначно зло, это столько фейков будет появляться

Ответить