Евросоюз внес законопроект о регулировании Искусственного интеллекта

Новаторский законопроект, принятый подавляющим большинством голосов Европейским парламентом, дает представление о будущем управления искусственным интеллектом (ИИ).

ЕС на сегодняшний день это самая амбициозная структура, активно занимающаяся руководством разработкой и использования ИИ. Голосования по ИИ в ЕС находятся в синергии с растущим хором исследователей из различных дисциплин, призывающих к созданию ограждений для управления мощным ИИ.

Хотя окончательная форма AIA появится в результате переговоров с Европейским советом и Комиссией, решение влиятельного законодательного органа Европы дает своевременную возможность для исследовательского сообщества ИИ подготовиться к воздействию, которое, как ожидается, отразится через границы.

Поскольку многие страны стремятся регулировать ИИ, AIA приветствуется как первый в мире всеобъемлющий закон, регулирующий ИИ в различных приложениях и контекстах. Приветствуемый многими, он также создает проблемы из-за его длины, тонких обязательств, связанных со сложными категориями риска, и зависимости от технических стандартов, которые все еще находятся в стадии разработки. Критики утверждают, что его плотность и затраты на соблюдение требований могут задушить инновации, особенно среди стартапов, в то время как сторонники утверждают, что правила, продвигающие заслуживающий доверия ИИ, будут стимулировать большие инновации.

Несомненно, AIA окажет далеко идущее влияние на сообщества, занимающиеся прикладными исследованиями в области ИИ, как в Европе, так и во всем мире. Исследователи, занимающиеся разработкой ИИ, будут непосредственно сталкиваться с тонкостями AIA. Хотя это не относится к исследованиям и разработкам до размещения на рынке, реальные условия тестирования инициируют соответствие. Для исследователей ИИ, работающих в области наук о жизни, занятости или образования, знакомство с требованиями AIA становится решающим, если цель состоит в том, чтобы выйти на рынок Европейского союза (ЕС).

Системы с высоким риском, как определено AIA, требуют соблюдения строгих предпродажных обязательств, начиная от управления рисками и заканчивая различными мерами контроля и требованиями прозрачности. Поставщики (генеративных) базовых моделей должны выполнять отдельные обязательства.

Признавая необходимость баланса между регулированием рисков и поддержкой исследований, AIA включает меры по содействию социально и экологически выгодному развитию ИИ. Стимулирующие механизмы включают финансирование исследований, а также приоритетный доступ к регулятивным песочницам ИИ, которые предлагают инновационные «испытательные стенды» для экспериментов с ИИ с использованием гибкости, встроенной в правила. Кроме того, регламент освобождает бесплатные компоненты с открытым исходным кодом, если только они не являются частью системы искусственного интеллекта с высоким риском, размещенной на рынке ЕС поставщиком

AIA также затрагивает исследователей, работающих с системами искусственного интеллекта с высоким риском в организациях, включая больницы и финансовые учреждения, в профессиональных целях в ЕС. Те, кто развертывает такие системы, несут ответственность за использование актуальных и объективных входных данных. Например, команда медицинских исследователей, развертывающих индивидуальный ИИ в контексте персонализированной медицины, должна убедиться, что обучающие данные свободны от расовых, социальных или религиозных предубеждений. Обязанности человека по надзору и ведению журналов входят в число требований, которые могут повлиять на оперативную практику исследователей, использующих системы искусственного интеллекта с высоким риском.

AIA также имеет значение для ученых, изучающих широкомасштабные воздействия ИИ. Требования прозрачности, такие как маркировка контента, созданного ИИ, будут способствовать эмпирическим исследованиям и разработке технических и политических инструментов для решения проблем управления, включая дипфейки. Тем не менее, прискорбно, что европейский законодательный орган до сих пор не включил правила, предоставляющие исследователям многоуровневый доступ к данным, параметрам и моделям, особенно для базовых моделей. Такой режим доступа мог бы способствовать подотчетности и обеспечить углубленные исследования социального воздействия, как показало аналогичное положение о доступе в Законе ЕС о цифровых услугах.

Ожидаемые экстерриториальные последствия AIA напоминают последствия Общего регламента по защите данных (GDPR) и, как ожидается, изменят коммерческую практику исследований ИИ во всем мире. Это также тревожный сигнал для научно-технического сообщества в более широком смысле, подчеркивающий важность интеграции этики и регулирования ИИ в основную учебную программу начинающих исследователей ИИ и информирования лиц, принимающих решения, о перспективах и ограничениях ИИ.

Такие инициативы, как открытие Школы социальных наук и технологий в Мюнхенском техническом университете, где я являюсь деканом, являются примером стратегической приверженности такому наведению мостов и ориентированной на человека инженерии, вдохновляя на реформы в Европе и за ее пределами.

PS. лайк, пожалуйста, он помогает продвижению статьи.

Ну и как положено на VC, канал телеграм))) Канал и чатик

Туда выкладываю статьи VC и то, что нет в VC. Мысли, идеи, опыт.

В закрепленных канале всегда telegram боты Kolersky для доступа в ChatGPT, GPT-4 без VPN, а так же генераторы изображений Midjourney, Dall-e, Stable Diffusion+ (все проекты: KolerskyAI).