iPhone 16e
Смартфон Huawei с 3 экранами
Аниме: Улицы разбитых фонарей
Рикша Hyundai
Новая Tesla Model Y
Grok vs ChatGPT vs Claude
Роботы за $40 млрд
Экзоскелет для подъёма в горы
iPhone 17 Air
Apple Event 19.02

Новатор-идеалист создал инструменты, которые помогают креативщикам защититься от эксплуатации ИИ

Забастовки сценаристов в Штатах недавно парализовали киноиндустрию. Но на любое действие найдется противодействие; и вот видим это на практике. Молодой максималист-идеалист создал инструменты, которые помогают художникам защищать свои авторские права. Шон Шан — один из новаторов в возрасте до 35 лет по версии MIT Technology Review 2024 года.

** Еще больше интересного в моем канале продуктовые штучки**

Именно Шань первым понял, какие виды защиты ищут художники, и понял, что совместная работа над Fawkes может помочь им создать Glaze — инструмент для защиты интеллектуальной собственности художников.

Шон Шань. <a href="https://api.vc.ru/v2.8/redirect?to=https%3A%2F%2Fwww.technologyreview.com%2F2024%2F09%2F10%2F1102936%2Finnovator-year-shawn-shan-2024%2F&postId=1592361" rel="nofollow noreferrer noopener" target="_blank">Источник</a>.<br />
Шон Шань. Источник.

В чем проблема?

Когда в начале 2022 года модели генерации изображений, такие как DALL-E 2, Midjourney и Stable Diffusion, дали старт буму генеративного ИИ, художники начали замечать странные сходства между сгенерированными ИИ изображениями и созданными ими. Многие обнаружили, что их работы были использованы для обучения ИИ моделей, которые затем производили “произведения” в их стиле.

Многие художники (и не только) теряли работу из-за того, что клиенты стали использовать ИИ инструменты для генерации изображений вместо того, чтобы нанимать художников. А другим предлагалось использовать ИИ самостоятельно и получать меньше.

Теперь художники могут дать отпор с помощью инструментов, созданных 26-летним Шоном Шаном, аспирантом по информатике Чикагского университета.

Шан еще будучи студентом начал заниматься безопасностью и конфиденциальностью ИИ, и участвовал в проекте по созданию Fawkes — инструмента для защиты лиц от технологии распознавания. Беседы с пострадавшими от генеративного ИИ-бума художниками привели его в эпицентр одной из крупнейших битв в этой области.

Вскоре после того, как Шан узнал о влиянии на художников, Бен Чжао (который вошел в рейтинг MIT «Новаторы до 35 лет» в 2006 году) и Хизер Чжэн (которая была в рейтинге MIT 2005 года) решили создать инструмент, который поможет креативным людям. Они собрали мнения более тысячи художников, чтобы узнать, что им нужно и как они будут использовать защитную технологию.

В чем суть инструмента?

Шан создал алгоритм, лежащий в основе Glaze — инструмент, который позволяет художникам защитить свой личный стиль от подражания ИИ.

Glaze вышел в начале 2023 года, а в октябре прошлого года Шан и его команда представили еще один инструмент под названием Nightshade.

Nightshade, который добавляет невидимый слой «яда», чтобы помешать ИИ моделям, если они попытаются включить эти изображения в свои наборы данных.

Оба алгоритма работают, добавляя невидимые изменения в пиксели изображений, которые нарушают способ их интерпретации ИИ моделями.

Причем “яд” здесь - не фигура речи. Если в данные обучения модели попадет достаточно яда, это может навсегда сломать модель и сделать ее результат непредсказуемым.

Какая была реакция на инструмент?

Реакция на Glaze была «ошеломляющей и стрессовой», говорит Шан.

Команда получила негативную реакцию от сторонников генеративного ИИ в социальных сетях, и было предпринято несколько попыток взломать защиту.

А вот художникам это понравилось.

Glaze скачали почти 3,5 млн раз (а Nightshade — более 700 000).

Он также был интегрирован в популярную новую художественную платформу Cara, что позволяет художникам встраивать его защиту в свои работы при загрузке изображений. А Glaze получил награду за выдающуюся работу и премию Internet Defense Prize на симпозиуме по безопасности Usenix, ведущей конференции по компьютерной безопасности.

По словам Чжао, именно Шань первым понял, какие виды защиты ищут художники, и понял, что совместная работа над Fawkes может помочь им создать Glaze. Чжао описывает технические способности Шаня как одни из самых сильных, которые он когда-либо видел, но что действительно отличает его способность соединять дисциплины.

Зачем все это?

С помощью своей работы над Glaze и Nightshade он хочет показать, что компании, занимающиеся ИИ, могут (и должны) сотрудничать с художниками и помогать им извлекать выгоду из ИИ или давать им возможность отказаться от него. Шан говорит, что хочет восстановить баланс сил, вернуть его от крупных корпораций людям.

«Сейчас все центры искусственного интеллекта — это частные компании, и их работа заключается не в защите людей и общества». Их работа заключается в том, чтобы сделать акционеров счастливым, — говорит он.

Далее Шан хочет создать инструменты, которые помогут регуляторам проверять ИИ модели и обеспечивать соблюдение законов. Он также планирует и дальше развивать Glaze и Nightshade так, чтобы их было легче применять в других отраслях, таких как игры, музыка или журналистика.

Пожалуйста, поддержите меня, поставьте лайк!

44
реклама
разместить
1 комментарий

Т.е. смысл в том чтобы нарушить процесс обучения ИИ на собственном контенте?)) Интересная идея но это вряд ли можно назвать защитой. Лучше на законодательном уровне обязать владельцев ИИ выплачивать авторам проценты за использование их контента в любом случае подтвержденного момента заработка на контенте при создании которого было использовано то или иное произведение.

Размышления С.Альтмана об общем искусственном интеллекте и том, как он изменит мир

Это эссе – рефлексия на тему общего искусственного интеллекта (AGI). Он уже появляется на горизонте, и поэтому Альтман считает важным понимать, в каком моменте мы находимся. И эти размышления кажутся и обоснованными, и фантастичными одновременно.

Возможно, через десятилетие любой человек на Земле сможет добиться большего, чем самый влиятельный человек сегодня.

С. Альтман
22
реклама
разместить
Что ждет ИИ в 2025 году

Прогноз от MIT Technology Review. Расскажу, кто уже являются первопроходцами и в каких направлениях ждать новостей.

<a href="https://api.vc.ru/v2.8/redirect?to=https%3A%2F%2Fwww.technologyreview.com%2F2025%2F01%2F08%2F1109188%2Fwhats-next-for-ai-in-2025%2F&postId=1751049" rel="nofollow noreferrer noopener" target="_blank">Источник</a>
33
Делюсь удобным шаблоном для отслеживания прогресса выполнения по задачам/этапам⚡️
22
Конец больших данных или как будут обучаться нейромодели

Вы наверняка слышали, что для нейроне нужны большие данные, и этих данных постоянно нет: или недоступны по причине авторского права, или их тяжело добыть и обработать. А развиваться нужно. Так как быть? Лучше умы думают об этом, и И.Суцкевер (один из ведущих разработчиков искусственного интеллекта и со-основатель OpenAI) предлагает свой любопытный…

Илья Суцкевер сравнивает масштабирование систем ИИ и эволюционную биологию. <a href="https://api.vc.ru/v2.8/redirect?to=https%3A%2F%2Fwww.theverge.com%2F2024%2F12%2F13%2F24320811%2Fwhat-ilya-sutskever-sees-openai-model-data-training&postId=1720318" rel="nofollow noreferrer noopener" target="_blank">Источник</a><br />
22
11
В Instagram* появится редактор видео

Мы уже видели модели генерации видео, и не одну. А вот модель для редактирования оригнального видео — это что-то новенькое. Расскажу подробнее об инструменте.

<a href="https://api.vc.ru/v2.8/redirect?to=https%3A%2F%2Fwww.theverge.com%2F2024%2F12%2F19%2F24325015%2Finstagram-ai-video-editing-tool-meta-movie-gen-teaser&postId=1718804" rel="nofollow noreferrer noopener" target="_blank">Источник</a>
33
Как искусственный интеллект может спасти от фейков и паники

Расскажу о любопытном случае, который а) доказывает пользу ИИ в науке б) показывает, что ИИ - это не поисковик, а именно интеллект, способный тягаться с учеными.

<a href="https://api.vc.ru/v2.8/redirect?to=https%3A%2F%2Fx.com%2Femollick%2Fstatus%2F1868329599438037491&postId=1711130" rel="nofollow noreferrer noopener" target="_blank">Источник</a>
22
11
Рекомендации, которые я давал студентам по их работам. Эти рекомендации могут пригодиться и вам

1. Не используйте в рекламе слова "лучший", "самый" и т.п., т.к. может быть жалоба от "доброжелателей" в ФАС и, если вы не сможете документально подтвердить использование этих слов, то может быть большой штраф.
2. Посты, которые в соцсетях опубликованы без хэштегов увидите только вы и подписчики вашей группы. Если вы добавляете хэштеги, то аудитория…

OpenAI финансирует научные исследования для создания «морального искусственного интеллекта»

Расскажу, что это такое и главное — зачем.

<a href="https://api.vc.ru/v2.8/redirect?to=https%3A%2F%2Ftechcrunch.com%2F2024%2F11%2F22%2Fopenai-is-funding-research-into-ai-morality%2F&postId=1669812" rel="nofollow noreferrer noopener" target="_blank">Источник</a><br />
33
[]