Deepfake: зло или благо? Порно, воровство данных и арест Трампа

Привет, это Kotelov digital finance. Сегодня говорим о дипфейках, которые могут рушить репутацию политиков и медийных личностей, понижать котировки компаний и воскрешать умерших персонажей.

В гостях Александр Паркин — эксперт в области компьютерного зрения, руководитель VisionLabs.

На подкасте мы много говорили про распознавание лиц с помощью биометрии и пришли к теме дипфейков. Что это? Как обезопасить себя? Как создают дипфейки и какая у них архитектура?

Мы написали несколько статей по этому подкасту:

1. Как технология распознавания лиц помогает в борьбе с финансовыми мошенничествами? — можно прочитать по ссылке

2. Deepfake: зло или благо? Порно, воровство данных и арест Трампа — Вы здесь

Ниже мы собрали самое важное из подкаста в формате статьи, но полную версию выпуска можно посмотреть здесь.

По всей сети гуляют изображения с Папой Римским в Balenciaga и фотографии с задержанием Трампа. Как вовремя понять, что перед тобой дипфейк? Как обезопасить свою репутацию, если конкуренты пытаются опорочить ее с помощью дипфейков?

Чем больше новые нейросети дают возможностей для мошенничества, тем больше будет новых инструментов для защиты, распознавания фейков и тд. Как раз этим и занимается VisionLabs.

Дипфейки реально опасны и могут принести вред в двух случаях:

1. Клевета и ухудшение репутации

Дипфейки часто появляются среди огромных массивов данных и у людей не хватает внимательности или времени на то, чтобы подумать и определить перед собой фальшивку. Таким образом можно сильно подпортить репутацию как публичной личности, так и крупной государственной организации.

Как бороться:

Детектировать изображения с помощью другой специально обученной нейросети. Добавить плашки, что контент фейковый, как было во время ковида.

2. Взлом личного кабинета

Например, во время авторизации через веб-камеру поставить дипфейк. Войти в личный кабинет в банке и перевести деньги на другой счет. Если тут еще можно как-то успеть вернуть ситуацию обратно, то что делать, когда тоже самое произойдет с криптовалютным кошельком?

Как бороться:

Улучшать, усложнять алгоритмы и архитектуры нейросетей, чтобы они могли детектировать дипфейки через веб-камеру.

Если объяснить буквально на пальцах, то блоки алгоритмов можно разделить на две части:

• Учим сеть сжимать лицо и разжимать обратно

Сжимаем изображение с Васей до 16х16, а потом разжимаем до исходного изображения. Потом берем лицо Виктора, которое хотим подставить — сжимаем его и разжимаем на исходной фотографии Васи.

Необходимо: много изображений и видео каждого из объектов.

• Учим сеть сжимать и менять изображение в сжатом состоянии

Сжали фотографию Васи, поменяли что-то внутри, с помощью генеративной нейросети разжали. Сразу после этого получается лицо Виктора с телом Васи.

Необходимо: достаточно одного изображения Виктора.

Какие позитивные свойства дипфейков используются в мире:

1. Порно
2. Киноиндустрия
3. GameDev
4. Lipsing
5. Реклама

Причин несколько:

1. Во время съемок Форсажа дипфейки только развивались, поэтому не было возможности сделать качественно, как сейчас.

2. Эффект Зловещей Долины

Когда мозг замечает небольшие неточности, которые не соответствуют его понятию о нормальном. Тогда он начинает бить тревогу и всячески сигнализировать об опасности.

💡 Механизм уходит корнями во времена, когда нужно было за долю секунды определить, что это не ветка, а змея.

Около 108 часов или миллиона эпох

Мы выяснили, что с помощью дипфейков можно порушить чью-то репутацию или ввести в заблуждение миллионы людей, которые просто не заметят подвоха в потоке информации.

А можно снимать фильмы с людьми, которых уже нет в живых, можно создавать невероятные видеоматериалы, о которых раньше даже подумать было нельзя.

А вы как считаете? Дипфейки: элемент прогресса или зло, которое нужно срочно запретить? Пишите свои ответы в комментариях и подписывайтесь на Kotelov digital finance, чтобы следить за новыми выпусками.