Новатор-идеалист создал инструменты, которые помогают креативщикам защититься от эксплуатации ИИ
Забастовки сценаристов в Штатах недавно парализовали киноиндустрию. Но на любое действие найдется противодействие; и вот видим это на практике. Молодой максималист-идеалист создал инструменты, которые помогают художникам защищать свои авторские права. Шон Шан — один из новаторов в возрасте до 35 лет по версии MIT Technology Review 2024 года.
Подписывайтесь на мой канал Продуктовые штучки
Именно Шань первым понял, какие виды защиты ищут художники, и понял, что совместная работа над Fawkes может помочь им создать Glaze — инструмент для защиты интеллектуальной собственности художников.
В чем проблема?
Когда в начале 2022 года модели генерации изображений, такие как DALL-E 2, Midjourney и Stable Diffusion, дали старт буму генеративного ИИ, художники начали замечать странные сходства между сгенерированными ИИ изображениями и созданными ими. Многие обнаружили, что их работы были использованы для обучения ИИ моделей, которые затем производили “произведения” в их стиле.
Многие художники (и не только) теряли работу из-за того, что клиенты стали использовать ИИ инструменты для генерации изображений вместо того, чтобы нанимать художников. А другим предлагалось использовать ИИ самостоятельно и получать меньше.
Теперь художники могут дать отпор с помощью инструментов, созданных 26-летним Шоном Шаном, аспирантом по информатике Чикагского университета.
Шан еще будучи студентом начал заниматься безопасностью и конфиденциальностью ИИ, и участвовал в проекте по созданию Fawkes — инструмента для защиты лиц от технологии распознавания. Беседы с пострадавшими от генеративного ИИ-бума художниками привели его в эпицентр одной из крупнейших битв в этой области.
Вскоре после того, как Шан узнал о влиянии на художников, Бен Чжао (который вошел в рейтинг MIT «Новаторы до 35 лет» в 2006 году) и Хизер Чжэн (которая была в рейтинге MIT 2005 года) решили создать инструмент, который поможет креативным людям. Они собрали мнения более тысячи художников, чтобы узнать, что им нужно и как они будут использовать защитную технологию.
В чем суть инструмента?
Шан создал алгоритм, лежащий в основе Glaze — инструмент, который позволяет художникам защитить свой личный стиль от подражания ИИ.
Glaze вышел в начале 2023 года, а в октябре прошлого года Шан и его команда представили еще один инструмент под названием Nightshade.
Nightshade, который добавляет невидимый слой «яда», чтобы помешать ИИ моделям, если они попытаются включить эти изображения в свои наборы данных.
Оба алгоритма работают, добавляя невидимые изменения в пиксели изображений, которые нарушают способ их интерпретации ИИ моделями.
Причем “яд” здесь - не фигура речи. Если в данные обучения модели попадет достаточно яда, это может навсегда сломать модель и сделать ее результат непредсказуемым.
Какая была реакция на инструмент?
Реакция на Glaze была «ошеломляющей и стрессовой», говорит Шан.
Команда получила негативную реакцию от сторонников генеративного ИИ в социальных сетях, и было предпринято несколько попыток взломать защиту.
А вот художникам это понравилось.
Glaze скачали почти 3,5 млн раз (а Nightshade — более 700 000).
Он также был интегрирован в популярную новую художественную платформу Cara, что позволяет художникам встраивать его защиту в свои работы при загрузке изображений. А Glaze получил награду за выдающуюся работу и премию Internet Defense Prize на симпозиуме по безопасности Usenix, ведущей конференции по компьютерной безопасности.
По словам Чжао, именно Шань первым понял, какие виды защиты ищут художники, и понял, что совместная работа над Fawkes может помочь им создать Glaze. Чжао описывает технические способности Шаня как одни из самых сильных, которые он когда-либо видел, но что действительно отличает его способность соединять дисциплины.
Зачем все это?
С помощью своей работы над Glaze и Nightshade он хочет показать, что компании, занимающиеся ИИ, могут (и должны) сотрудничать с художниками и помогать им извлекать выгоду из ИИ или давать им возможность отказаться от него. Шан говорит, что хочет восстановить баланс сил, вернуть его от крупных корпораций людям.
«Сейчас все центры искусственного интеллекта — это частные компании, и их работа заключается не в защите людей и общества». Их работа заключается в том, чтобы сделать акционеров счастливым, — говорит он.
Далее Шан хочет создать инструменты, которые помогут регуляторам проверять ИИ модели и обеспечивать соблюдение законов. Он также планирует и дальше развивать Glaze и Nightshade так, чтобы их было легче применять в других отраслях, таких как игры, музыка или журналистика.
Т.е. смысл в том чтобы нарушить процесс обучения ИИ на собственном контенте?)) Интересная идея но это вряд ли можно назвать защитой. Лучше на законодательном уровне обязать владельцев ИИ выплачивать авторам проценты за использование их контента в любом случае подтвержденного момента заработка на контенте при создании которого было использовано то или иное произведение.