Ученые обманули распознавание лиц, в ООН призвали запретить ИИ и другие новости из мира МО
Дайджест новостей за прошедшую неделю
В ООН призвали к мораторию на некоторые виды ИИ
Комиссар ООН по правам человека Мишель Бачелет заявила, что системы искусственного интеллекта, угрожающие основным правам и свободам, необходимо запретить или временно ограничить.
Она считает, что мораторий необходим до тех пор, пока правительства стран не смогут гарантировать соблюдение стандартов в области прав человека.
Искусственный интеллект может быть силой добра, помогая обществу преодолевать некоторые из серьезных проблем нашего времени. Но технологии могут иметь негативные, даже катастрофические последствия, если они используются без учета влияния на права человека
Что касается распознавания лиц, Бачелет призвала не запрещать технологию, а ограничить ее использование до тех пор, пока положения о правах не будут согласованы.
Кроме этого, Совет ООН по правам человека выпустил отчет, где авторы проанализировали риски, связанные с развитием технологий на базе ИИ, включая профилирование, автоматизированное принятие решений и машинное обучение.
Ученые рассказали, как по глазам распознать дипфейк
Американские ученые обнаружили особенность на сгенерированных фотографиях, позволяющую отличить дипфейки от изображений реальных людей по глазам.
Они выяснили, что большинство GAN-нейросетей, использующихся при создании подделок, рисуют зрачки неправильной формы. Такие артефакты широко распространены среди высококачественных дипфейков, утверждают исследователи.
Неправильная форма зрачка является хорошим признаком того, что человек может определить лицо, сгенерированное GAN. Даже если вокруг зрачков нет граничных меток, мы легко заметим их неправильные формы, которые могут сильно разниться на одном и том же дипфейк-изображении
Ученые добавили, что люди сами могут попробовать отличить дипфейк от реального фото, увеличив изображение и проверив форму зрачка.
Байден выдвинул противника распознавания лиц на должность в антимонопольный орган
Президент США Джо Байден предложил кандидатуру Альваро Бедойи на должность в Федеральную торговую комиссию.
Альваро Бедойя — профессор юридического факультета Джорджтаунского университета, известный защитник конфиденциальности. Его деятельность сфокусирована на том, как технологии вроде распознавания лиц дискриминируют иммигрантов и национальные меньшинства.
Федеральная торговая комиссия наблюдает за соблюдением антимонопольного законодательства, конфиденциальностью и безопасностью данных. В последнее время ведомство разработало агрессивную программу, которая может вызвать шквал новых расследований и судебных исков.
Председатель комиссии Лина Хан поприветствовала выдвижение Бедойи.
Опыт Альваро в области наблюдения и защиты данных, а также его давняя приверженность государственной службе будут чрезвычайно ценными для Комиссии, поскольку мы работаем, чтобы удовлетворить этот момент огромных потребностей и возможностей
Для утверждения кандидатуры Бедойи требуется одобрение Сената.
США запросили данные об ADAS-системах у 12 автопроизводителей в деле против Tesla
Национальное управление безопасности дорожного движения США запросило данные о системах помощи водителю у 12 автопроизводителей в деле против автопилота Tesla.
Ведомство потребовало предоставить информацию об их беспилотных системах второго уровня. Оно попросило указать количество произведенных с автопилотом машин в Соединенных Штатах, число накатанных с ним миль и список последних изменений или обновлений. Также управление запросило отчеты об эксплуатации и сбоях программ, данные о жалобах клиентов и судебных исках.
Американские автопроизводители, такие как Ford, GM и Stellantis, должны предоставить информацию до 3 ноября 2021 года. Иностранные компании, в частности Toyota, Subaru, Nissan и Honda — до 17 ноября. В противном случае им грозит штраф до $115 млн.
Ученые обманули систему распознавания лиц с помощью легкого макияжа
Группа ученых совместно с японской корпорацией NEC провела эксперимент и выяснила, что нанесение естественного макияжа способно обмануть систему распознавания лиц.
Они загрузили в суррогатную модель фотографии людей из черного списка и создали тепловую карту участков лица, важных для алгоритма идентификации. На эти области они нанесли легкий макияж и повторили процесс несколько раз, пока им не удалось обмануть модель.
Затем ученые провели небольшой эксперимент с участием десяти женщин и десяти мужчин, в ходе которого камера с распознаванием лиц смогла идентифицировать «запрещенного» человека в 1,22% случаев.
Наш метод находит естественный макияж, который при нанесении на лицо злоумышленника скрывает его или ее личность от системы распознавания лиц
Исходная модель сама по себе не отличается высокой точностью. Она смогла правильно идентифицировать человека без макияжа в 47,5% случаев, тогда как при нанесении косметики случайным образом этот показатель упал до 33,7%, говорится в исследовании.
Ученые утверждают, что падение точности распознавания лиц с нанесенным макияжем «ниже разумного порога реалистичной среды».
Зачем ООН запрещать новости из мира МО ?
Придётся макияж себе делать