Будущее Friendly Design
4 470

Компьютерная генерация лица становится реальнее

Мы, лаборатория Friendly Design, следим за трендами и исследованиями в области дизайна и около. Хотим поделиться с вами переводом статьи по предстоящим тенденциям искусственного интеллекта в области генерации лиц и реалистичных персонажей.

В закладки

Они имеют общие черты с настоящим человеком: белые зубы, разнообразные причёски, мимические линии, морщины, атрибуты, как очки, неправильный прикус и так далее. У каждого из них есть свои взгляд и улыбка.

Подсознательно можно принять тот факт, что этих людей просто не существует, но то, что вы видите, — заметный прогресс в технологии машинного обучения. Всё благодаря известной компании Nvidia. Пора каждому избавляться от парадигмы, что люди на фотографиях — это живые люди.

Ещё несколько лет назад большинство снимков, сделанных искусственным интеллектом, выглядели как плохо отрисованные полицейские эскизы, но всё глобально изменилось. Генеративная состязательная сеть Nvidia, называемая Style GUN, использует технику глубокого обучения под названием «передача стиля», которая различает атрибуты высокого уровня (такие как поры, причёску, форму лица, очки) от стохастических вариаций (веснушки, волосы, щетина, поры).

Выражение «живой» кажется уже неадекватным для описания результатов: это полностью созданные люди, часто неотличимые от реальных.

Естественная реакция — благоговейный страх, сопровождаемый быстрым предчувствием катастрофы. Нетрудно представить, как можно злоупотреблять такими технологиями.

Когда Nvidia опубликовала свой документ StyleGAN в конце прошлого года, опасения по поводу его потенциальных приложений были смягчены затратами. Для создания своего лица команде Nvidia понадобилось восемь неоправданно дорогих графических процессоров и целая неделя обучения ИИ.

Однако недавно она опубликовала код StyleGAN на GitHub, а в прошлом месяце разработчик программного обеспечения Филип Ван создал сайт thispersondoesnotexist.com, который использует StyleGAN для отображения (буквально) нового лица при каждом обновлении браузера. Как сказал Ван: «Большинство людей не понимают, насколько хорош ИИ для синтеза изображений в будущем».

Nvidia отказалась от комментариев.

У нас есть, возможно, один или два года, прежде чем реалистичные результаты, порождённые в Nvidia, начнут убедительно двигаться и говорить.

Прошло чуть больше года с тех пор, как текущие результаты ворвались в сознание мейнстрима и повергли в шок специалистов по этике и публицистов. С тех пор эта паника сменилась мрачным смирением: хотя предполагаемые даты смерти различаются, многие эксперты, хотя и не все, согласны с тем, что наше чувство общего, поддающегося проверке реальности, может быть на пути к разрушению.

Хао Ли, директор лаборатории Vision and Graphics в Университете Южной Калифорнии, говорит OneZero, что даёт ему один или два года, прежде чем вариации реалистичных результатов, генерируемых Nvidia, начнут убедительно двигаться и говорить. Он говорит, что эти инструменты будут доступны любому. И кто знает, для какой цели они их будут использовать.

Помимо того, что фотомодельная индустрия может быть объедена, массовое распространение несуществующих, но совершенно убедительных аватаров углубит кризис в онлайн-знакомствах. Мошенники будут пользоваться фейковыми аккаунтами с уникальными фотографиями, вдаваться в доверие пользователям, выманивать деньги и прочие сбережения у доверчивых и неграмотных людей.

Если вы пытаетесь определить, являются ли некоторые учетные записи ботами, одна из распространённых стратегий — поиск аналогичных изображений (их аватары), потому что обычно эти изображения использовались кем-то ранее.

Авив Овадья
основатель проекта Thoughtful Technology, чья работа направлена на понимание и смягчение «экосистемы дезинформации»

Но StyleGAN эффективно исключает такую возможность.

Недавняя микрополемика иллюстрирует некоторые из опасностей. В конце прошлого месяца пользователь Twitter ElleOhHell — известный писатель-шутник — признался, что он был мужчиной, хотя его профиль представлял женщину-пользователя. Последние пять лет он изображал из себя женщину на фотографиях, которая оказалась его женой.

Он говорит, что она участвовала в этом, поэтому он мог использовать её фотографии, не опасаясь вызова или поиска по схожим изображениям — возможно, единственные вещи, которые останавливают людей с гораздо худшими намерениями, чем ElleOhHell, от маскировки их личности или обмана людей с помощью созданных лиц.

Чувствуем ли мы по-другому, когда белый человек создаёт персонажа, который является чёрной женщиной или женщиной-латиноамериканкой?

Кажется, никто не пострадал от обмана ElleOhHell в Twitter. Тем не менее даже шутка с благими намерениями может принести вред. Виктория Шварц, профессор права в Университете Пеппердайна, которая исследует виртуальных влиятельных людей, таких как блогера Instagram Lil’ Mikaela, поднимает печально актуальную проблему блэкфейса.

Чувствуем ли мы по-другому, когда белый человек создаёт персонажа, который является чёрной женщиной или женщиной-латиноамериканкой?

С этической точки зрения у нас начинают возникать некоторые проблемы.

И как отмечает Рамеш Шринивасан, директор Калифорнийского университета в Лос-Анджелесской лаборатории цифровой культуры, эта технология может закрепить культурное узконаправленное представление о том, как должен выглядеть человек. «То, что считается человеческим, всегда будет представляться предубеждениям мира за пределами этой технологии», — отметил Шринивасан.

Однако не каждый критик готов бить тревогу.

Нет никаких сомнений в том, что поддельный контент может быть оружием, и мы видим это на примере других реалистичных результатов. Но в чём разница между реалистичным результатом и вымышленным персонажем в фильме?

Эрик Голдман
директор Института высоких технологий в Университете Санта

На протяжении большей части последнего десятилетия Марк Цукерберг и его компания неустанно работали над дефикционализацией интернета: настаивали на реальных именах, строили интеграцию практически со всеми сайтами и приложениями, поддерживали всё более широкое и точное распознавание лиц.

Силы победили в этой битве. Очень немногие люди сейчас рассматривают свои профили в социальных сетях как что-то другое, кроме расширения их фактического «я».

Простой в использовании спин на StyleGAN может привести к некоторым интересным концептуальным арт-проектам (макетные ежегодники, наполненные людьми, которых не существует, или сложные, взаимосвязанные сети нереальных друзей, семей и домашних животных), но это, вероятно, не относится к среднему пользователю Facebook, чтобы играть с новой идентичностью.

Мир убедительно реалистичных, движущихся и говорящих результатов, которые, по словам Ли из USC, появятся через пару лет, может немного осложнить ситуацию. Может быть, это вернёт какую-то полиморфную, растворяющуюся личность в дух того интернета, где никто не знает, что ты собака.

Это было частью обещания и привлекательности Second Life и виртуальной реальности: шанс быть другим человеком или обществом, чтобы пинговать между персонажами и расширять своё чувство возможного.

В прошлом месяце лидер компании Nvidia по машинному обучению Анима Анандкумар вступила в бурную дискуссию спора об ИИ, это было спровоцировано решением компании Илона Маска OpenAI сдерживать средства на создание и развитие ИИ, ссылаясь на опасения, что недобросовестные лица могут использовать технологии для создания фейковых новостей.

Одна сторона этих споров гласит, что все исследования должны быть опубликованы, потому что это в конечном счёте хорошо для продвижения общего научного достижения. Другая сторона говорит, что давайте возьмём паузу и убедимся, что мы не расширяем возможности злоумышленников или не приближаем цифровой апокалипсис. Анандкумар находится на иной стороне и считает, что это может поставить учёных в невыгодное положение.

Будет ли StyleGAN адаптировать и расширять поставки тысячи стоковых фото моделей для увеличения благосостояния? Способствовать распространению фейковых новостей о детском борделе Хиллари Клинтон? Разбить сердца десяткам доверчивых вдовцов и затворников? Мы не можем знать. Проблема, по словам Овадьи, в том, что Nvidia тоже не знает и, похоже, не собирается это выяснять.

Для предотвращения катастроф должна быть коммуникация между корпорациями, продвигающими новую технологию, и теми, кто может пострадать от таких исследований в будущем. Никто не может знать точно и принять обоснованное решение о том, что выпустить, а где придержаться.

Нам — тем бедным душам, которые не только выглядят реальными, но и, к сожалению, реальным — остаётся смотреть, что будет дальше.

Оригинальная статья на Medium — по ссылке.

Переведено сообществом Friendly Design.

#искусственныйинтеллект #nvidia

Материал опубликован пользователем. Нажмите кнопку «Написать», чтобы поделиться мнением или рассказать о своём проекте.

Написать
{ "author_name": "Friendly Design", "author_type": "self", "tags": ["\u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439\u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442","nvidia"], "comments": 4, "likes": 13, "favorites": 8, "is_advertisement": false, "subsite_label": "future", "id": 60980, "is_wide": false, "is_ugc": true, "date": "Wed, 13 Mar 2019 09:40:49 +0300" }
{ "id": 60980, "author_id": 185535, "diff_limit": 1000, "urls": {"diff":"\/comments\/60980\/get","add":"\/comments\/60980\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/60980"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199118 }

4 комментария 4 комм.

Популярные

По порядку

0

Style GUN

Ответить
0

Что делать если влюбился в одну из ?😅

Ответить
0

Так есть же алгоритм который подменяет лица в порно. Можешь взять своё лицо, её лицо ну и того... самого... :)

Ответить
0

А сегодня была новость что люди боятся ИИ потому что работы лишаться, особенно чиновники. Завтра походу компьютеры мощнее калькулятора начнут запрещать

Ответить
0
{ "page_type": "article" }

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } } ]
Приложение-плацебо скачали
больше миллиона раз
Подписаться на push-уведомления
{ "page_type": "default" }