Техно гиганты заявляют, что закон, который защитит нас от «плохого» ИИ, ограничит «инновации». А может это и неплохо

Блестящий колумнист Guardian и профессор Open University, а также автор работы «From Gutenberg to Zuckerberg: What You Really Need to Know About the Internet» - John Naughton, размышляет, почему крупные американские технологические компании старательно избегают юридической ответственности за свои продукты. Как только речь заходит об ответственности за свое ПО, техно гиганты сразу заявляют, что любые законы будут мешать «инновациям». А когда ЕС принял закон об ответственности компаний за разработанные ими технологии ИИ и дал право гражданам подавать в суд на разработчика или правообладателя технологии ИИ, если пользователь пострадал, техно гиганты заявили, что такой закон ограничит инновации.

John вспоминает таких инноваторов как Cambridge Analytica, предиктивные модели, которые дискриминирует этнические меньшинства, или рекомендательные системы, которые регулярно отправляют 14летней девочке список «10 лучших депрессивных картинок, которые вам понравятся». Последние 50 лет технологическая отрасль была освобождена от ответственности за ошибки и изъяны своих продуктов, даже если они причиняли вред пользователю. John предлагает на любые лекции об инновации в технологической сфере задавать вопрос: «Инновации для кого?».

Очень долго техно гиганты избегали ответственности за следование только своим интересам, и ЕС сказал: «хватит».

Еще в мае 2014 года Европейский союз выпустил одно из самых значимых регулирующих документов в отрасли: европейские граждане получили право требовать от поисковиков удалить из результатов поиска материалы о себе, которые были размещены на других сайтах. Эту директиву назвали «правом на забвение». Однако это право на забвение, в общем-то, было актуально только для Google, доминирующей на рынке поисковиков: европейский гражданин получил право исключить из результатов Google определенные материалы.

Утром того дня, когда директива была опубликована, John’у позвонил его знакомый, один из топов Google. Было понятно, что Google не ожидал такого поворота событий. Дорогостоящая команда юристов была в растерянности. Но было ясно, что американский менеджмент компании был возмущен наглостью европейского института, который осмелился выпустить такую директиву. John мягко заметил, что такая директива не такая уж плохая, на что услышал гневную тираду, что европейцы «враждебны инновациям».

John вспомнил звонок сотрудника Google в связи с публикацией нового закона в Евросоюзе в сентябре, согласно которому пользователи смогут подать в суд на компанию – производителя ПО, если они пострадали от этого ПО. Закон вступит в силу через два года. Новый закон об ответственности ИИ называется AI Liability Directive. Он является дополнением в Закону об ИИ в ЕС, который будет принят Евросоюзом примерно в тоже время, что и новая директива. Цель двух новых законов – предотвратить развертывание опасных систем технологическими компаниями, например: алгоритмы, которые часто распространяют дезинформацию и целенаправленно снабжают детей вредоносным контентом; системы распознавания лица, которые часто дискриминируют пользователей; предикативная аналитика, которая используется для одобрения кредита или разработки стратегий для муниципальных органов, причем игнорирует этнические меньшинства. Другими словами, речь идет о технологиях, которые сегодня никак не регулируются.

Закон об ИИ обязует компании проводить дополнительные проверки «высокорисковых» технологий ИИ, которые могут навредить человеку, особенно в таких сферах как образование, найм персонала и здравоохранение. Журнал Technology Review от MIT считает, что этот закон «даст право гражданам и компаниям подавать в суд на производителя технологий ИИ, если им нанесен ущерб. Цель закона- сделать разработчиков, производителей П и пользователей технологий ответственными и требовать объяснения, как была создана и натренирована ИИ технология. Технологические компании, не способные соблюдать такие требования, столкнутся с масштабными исками на территории ЕС».

Разумеется, сразу появляется Ассоциация производителей компьютеров и коммуникаций (Computer & Communications Industry Association (CCIA)). Это лоббистская структура, представляющая интересы техногигантов в Брюсселе. CCIA направляет письмо двум европейским комиссарам, ответственным за эти два закона. Лоббисты считают, что эти законы накладывают слишком жесткие обязательства на технологические компании, которые «не пропорциональны и противоречат сути программного обеспечения». И, конечно, эти законы могут иметь «негативный эффект» на развитие «инноваций».

А ведь эта та самая инновация, которая привела к скандалу с Cambridge Analytica и вмешательству в выборы США 2016 г года и в референдум Брексит, и позволила вести прямые трансляции массовых расстрелов. Эта же инновация маячит за спиной рекомендательных систем, которые радикализирует экстремистов и присылает подростку «10 самых депрессивных картинок, которые вам понравятся», после которых он совершает суицид.

Сложно определить, какое именно из двух утверждений CCIA, а именно: слишком много ответственности не подходит технологическим компаниями или то, что «инновации» являются сутью отрасли, - абсурдны. Более чем 50 лет технологической отрасли предоставлялась свобода действий, как никакой другой индустрии. Эта отрасль избегала юридической ответственности за бесчисленные недостатки и уязвимости своих продуктов и того вреда, что они принесли.

Еще более примечательно то, что претензии технологических компаний быть единственными «инноваторами» долго принимались за чистую монету. Но два выдающихся юриста по антимонопольному праву - Ariel Ezrachi и Maurice Stucke, - разоблачили этот блеф. В своей знаменательной работе «How Big-Tech Barons Smash Innovation – And How to Strike Back» юристы демонстрируют, что технологические компании терпят только те инновации, которые отвечают их интересам. Ariel и Maurice блестяще показывают, как технологические гиганты безжалостно подавляют инновации путем поглощения конкурентов или просто копируя их продукты, а также как доминирование крупных корпораций в секторе поисковиков или соц.сетей ограничивает возможность возникновения инноваций, которые могут быть полезны для развития общества и экономики.

John считает, что работа Ariel и Maurice является превосходным антидотом от болтовни технологических гигантов. Более того, колумнист даже рекомендует эту работу к прочтению сотрудникам британских регуляторов, таких как Ofcom, британской ФАС и Министерство по делам культуры, СМИ и спорта. Самый первый вопрос на очередную лекцию об инновациях должен быть: «Инновации для кого?».

Ссылка на статью: https://www.theguardian.com/commentisfree/2022/oct/08/tech-firms-artificial-intelligence-ai-liability-directive-act-eu-ccia