Ученые предложили решения, которые позволят избежать негативных последствий от развития Искусственного Интеллекта

Это перевод статьи из американского журнала WIRED от 20 января. Он поможет креаторам, которые боятся потерять работу, предпринимателям, которые создают продукты с ИИ, и юристам сформировать адекватные ожидания о том, как будет устроен новый мир, где ИИ применяется повсеместно.

Авторы статьи - Ник Винсент и Хэнлин Ли — доктора философских наук, выпускники Северо-Западного университета (частный исследовательский университет, расположенный в северном пригороде Чикаго. Входит в список 20 лучших университетов мира и в 10 лучших университетов США).

Ниже - сам перевод статьи, примечания переводчика помечены звездочкой. Оригинальные ссылки авторов сохранены. Они могут быть особенно полезны, если вы глубоко изучаете тему ИИ.

Креаторы должны давить на судебную систему, регуляторов и рынок, пока не стало слишком поздно.

Если вы когда-либо загружали в интернет фотографии или творчество, писали отзывы, ставили лайки, отвечали на вопросы на форумах, создавали программные open-source продукты или делали вообще что-угодно онлайн - вы делали бесплатную работу для технологических компаний, потому что скачивая весь этот контент их системы искусственного интеллекта (*далее - ИИ) получают актуальную информацию о мире.

Технологические компании маскируют вклад пользователей в свои продукты в Условиях Использования (которые все, конечно, читают, хах*) под терминами типа "тренировочные данные", "самообучение", "информационный след".

Фактически большинство инноваций в сфере ИИ за последние годы - следствие бесплатного и возрастающего использования контента пользователей. Это относится к поисковикам вроде Google, социальным сетям, как Instagram, стартапам в области ИИ, как OpenAI и многим другим IT-компаниям.

Эта эксплуататорская тенденция особенно разрушительна, если говорить о новой волне программ генеративного ИИ, как Dall-E и ChatGPT. Без вашего контента ChatGPT и тому подобных продуктов просто не существовало бы. Многие исследователи ИИ считают, что ваш контент на самом деле гораздо важнее работы инженеров. Теперь ИИ продукты, которые бесплатно эксплуатируют ваш труд, угрожают отобрать у вас работу. Это тоже самое, как если бы система ИИ пришла на ваш завод, и украла станки.

Дискуссии об использовании сложных технологий ИИ обычно исходят от беспомощности и позиции, что компании, владеющие продуктами с ИИ будут делать то, что им захочется и общество мало что сможет сделать, чтобы повлиять на развитие данных технологий. Мы, исследователи ИИ, и наше исследование говорит о том, что люди обладают огромным "информационным рычагом влияния", который может быть использован для создания экосистемы ИИ, которая будет одновременно создавать потрясающие технологии и справедливо делиться выгодами с теми, кто способствует их развитию.

Информационный рычаг влияния может быть использован как минимум в четырех направлениях:

Поскольку генеративные системы ИИ полагаются на парсинг интернета - владельцы сайтов могут значительно усложнить процесс сбора данных в настройках файла robots.txt (файл сайта, в котором регулируется доступ ботов к сайтам).

Большие сайты типа Wikipedia, StackOverflow, и Reddit - особенно важны для систем генеративного ИИ, и они могут закрыть этим системам доступ через блокировку IP адресов или API-доступа. По словам Илона Маска, именно это было недавно сделано в Twitter. Производителям контента следует также пользоваться механизмами защиты, которые все чаще предоставляются самими продуктами с ИИ. К примеру, программисты в GitHub могут отказаться от предоставления данных для проекта BigCode через простую форму.

Кроме того, попросту не молчать, когда контент используется без вашего согласия, может быть в какой-то степени эффективно. К примеру, крупный игрок с генеративным ИИ Stability AI согласился выполнить запросы на отзыв разрешения на использование данных, собранные через haveibeentrained.com после шумихи в социальных сетях. Участвуя в публичных активностях, как в случае массового протеста художников против ИИ, возможно, удастся заставить компании прекратить коммерческую деятельность, которую значительная часть общества воспринимает как воровство.

Медиа-компании и проекты, чья работа достаточно важна для больших языковых моделей (LLM), могут также учитывать подобные настроения и запретить системам генеративного ИИ доступ к контенту, потому что эти системы постоянно наращивают свою ценность бесплатно (в том числе благодаря именно этой статье). Например, Эзра Кляйн (журналист New York Times*) упомянул в недавнем подкасте, что ChatGPT отлично подражает ему, вероятно, потому, что скачал множество его статей, не спросив его или его работодателя.

Важно, что время также на стороне авторов: по мере того, как в мире происходят новые события, меняется мода, факты и открываются новые рестораны, необходимы новые потоки данных для поддержки современных систем ИИ. Без потока актуальных данных эти системы, скорее всего, потеряют ценность для большинства сервисов, которые их используют. Отказываясь предоставлять новые данные безвозмездно, создатели контента также могут оказать давление на технологические компании, заставляя их платить за доступ к ним.

Один из лучших способов сделать это - разъяснить, что “добросовестное использование” в соответствии с законом об авторском праве не позволяет обучать ИИ без согласия владельца контента, по крайней мере, в коммерческих целях. Законодателям по всему миру также следует поработать над законами о “борьбе с отмыванием данных”, которые четко разъясняют, что системы, обученные на данных без согласия авторов, должны быть переобучены с законным использованием данных в адекватные сроки. Подобные меры могут основываться на существующих законодательных структурах в таких регионах, как Европа и США, а также на работе по регулированию, проводимой для обеспечения того, чтобы новостные компании получали долю доходов, которые они генерируют для социальных сетей.

Также набирает обороты принятие законов о “дивидендах от данных”, которые позволили бы перераспределять прибыль, генерируемую IT-компаниями. Они также могут помочь, если удастся избежать некоторых "ловушек".

Кроме того, политики могли бы помочь креаторам и поставщикам данных объединиться для защиты своих прав. В частности, поддержка таких инициатив, как информационные кооперативы — организации, которые облегчают поставщикам данных продвижение своих интересов — могла бы способствовать крупномасштабным информационным забастовкам среди авторов контента и усадить фирмы, использующие ИИ, за стол переговоров.

Пока они работают над толкованием закона об авторском праве, есть много других вариантов. LinkedIn удалось помешать тем, кто копирует данные, опубликованные в соц сети, с помощью Условий Использования и договорного права. Трудовое законодательство также может предоставить возможность расширить возможности лиц, создающих контент. Обращаясь к истории, зависимость некоторых компаний от "работы волонтеров" (*авторы приводят в пример процесс против сети ресторанов, которая предлагала людям работать за еду) позволила поднять важные вопросы о том, нарушают ли эти компании Закон о справедливых трудовых стандартах (*англ. - Fair Labor Standards Act), и эти судебные процессы могут служить калькой для информационной сферы. В прошлом некоторые волонтеры даже добились законных компенсаций от компаний, получавших выгоду от их работы.

Если достаточное количество правительств, организаций и частных лиц создадут спрос на языковые системы ИИ, которые использовали только данные с разрешения авторов (возможно, оплатив их работу), IT-компаниям придется пойти навстречу. Этого можно добиться успешными судебными процессами против компаний, которые используют генеративный ИИ в своих продуктах. Если приложения и сервисы, созданные на базе систем ИИ (*типа Open AI), столкнутся с судебными исками, спрос на системы, которые не играют в законодательный Дикий Запад, возрастет.

Наше исследование (ссылка 1, ссылка 2) и исследование наших коллег также показывает нечто удивительное: многие из вышеперечисленных действий на самом деле помогут компаниям, развивающим продукты с ИИ. Без экосистемы с нормальным регулированием в сфере контента, сам контент, на который опираются технологии ИИ, просто исчезнет. Если никто не заходит на Reddit, потому что все ответы можно получить от ChatGPT, как тогда ChatGPT будет обучаться на контенте, генерируемом пользователями Reddit? Это создаст значительные проблемы для технологических компаний, которые все еще можно заранее решить, используя перечисленные в статье методы.

Конечно, рассуждая о юридическом и законодательном регулировании правил применения ИИ, авторы полагаются на государственную систему западных стран. Есть множество государств, которым мягко говоря не до этого. Большим вопросом остается, как будут вести себя транснациональные корпорации, которые без сомнения будут получать все сливки от технологий ИИ. Допускаю, что им будет слишком просто злоупотреблять несовершенством некоторых государственных систем какое-то время. Наверное, чтобы качественно зарегулировать эту сферу - вопрос нужно выносить на международный уровень, и создавать нечно на подобии Морского Права с едиными принципами и правилами применения ИИ. Если, конечно, в текущих реалиях это еще возможно.

А как специалист в области развития IT-продуктов, могу сказать, что предпринимателям, создающим сервисы и приложения на базе ИИ, стоит учитывать будущие риски попадания "палок в колеса" от владельцев данных.

Ставьте статье лайки, пишите комментарии, это поможет действительно полезной информации дойти до людей, тем или иным образом зависящим от развития ИИ.