Американские законодатели: ИИ разработчики должны нести ответственность за действия своих моделей
Американские законодатели всерьез озаботились вопросом, кто будет виноват в том случае, если технологии ИИ нанесут ущерб. Сенаторы Josh Hawley, (республиканец, штат Миссури) и Chris Murphy (демократ, штат Коннектикут) представили проект закона, который предусматривает уголовную и гражданско-правовую ответственность для разработчиков ИИ агентов и операторов этой технологии за хакерские инциденты. Josh Hawley: «В конце концов, ИИ - это просто продукт. Если вы создаете продукт столь безответственно, что эти ИИ агенты наносят ущерб, например, выводит из строю систему неотложной помощи в больнице или хакают банк, и люди не могут получить свои деньги... Если это случается, то разработчики этого продукта должны нести ответственность». Администрация Трампа подписала добровольное соглашение с топами ИИ корпораций о внутренних механизмах безопасности. Сенатор Richard Blumenthal: добровольное соглашение не обязывает корпорации раскрывать все нарушения, совершенные из-за ИИ или с помощью ИИ, и в любой момент компании могут отказаться от добровольно взятых на себя обязательств.
На фоне беспокойства в обществе относительно угроз от продвинутой технологии ИИ и нежелания администрации Трампа вводить регулирование сектора ИИ законодатели от двух партий объявили о готовности расширить законы и ввести ответственность ИИ компаниям за недостаточный контроль над своими моделями.
Josh Hawley, республиканец, штат Миссури, и председатель Подкомитета Сената по стихийным бедствиям округа Колумбия, выступал на слушаниях Сената на прошлой неделе. Он выразил опасение об «увеличивающемся количестве атак» во всем мире, связанных с продвинутыми ИИ моделями, выходящими за барьеры безопасности. Председатель Подкомитета заявил, что необходимо предпринять меры для привлечения к ответственности разработчиков этих моделей.
ИИ агенты- это всего лишь продукт. Если продукт приносит ущерб, то его создатели должны нести за это ответственность
В августе Josh Hawley инициировал расследование самого знаменательного случая, когда ИИ агент OpenAI покинул тестовое окружение и взломал Hugging Face по собственной инициативе.
Josh Hawley: «В конце концов это просто продукт. Если вы создаете продукт столь безответственно, что эти ИИ агенты наносят ущерб, например, выводят из строю систему неотложной помощи в больнице или взламывают банк, и люди не могут получить свои деньги... Если это случается, то разработчики этого продукта должны нести ответственность».
Президент Дональд Трамп и представители Белого Дома выражают опасение об излишнем регулировании ИИ сектора, называя ИИ амбиции Китая причиной, почему США должны позволить своим передовым моделям развиваться без ограничений.
Администрация Трампа подписала добровольное соглашение с топами ИИ корпораций о внутренних механизмах безопасности
Слушания в Сенате прошли после того, как Белый Дом провел встречу с топами техно сектора. На этой встрече Трамп и техно лидеры подписали добровольное соглашение о разработке и применении внутренних механизмов безопасности.
Josh Hawley известен своим консерватизмом. Однако, он не согласен с Трампом относительно мер по защите конкуренции в секторе технологий или более серьезном регулировании отрасли. Сенатор заявил, что «пора поговорить о том, как мы собираемся привлечь к ответственности компании – разработчиков этих продуктов».
Офис Josh Hawley объявил на прошлой неделе, что председатель Подкомитета и сенатор Chris Murphy (демократ, штат Коннектикут) представят проект закона, который предусматривает уголовную и гражданско-правовую ответственность для разработчиков ИИ агентов и операторов этой технологии за инциденты, когда эти ИИ модели взламывают другие системы или сети.
Josh Hawley рассказал о законопроекте в статье, опубликованной в издании The Washington Post в прошлый вторник. Он сообщил, что закон заставит ИИ компании «прилагать больше усилий для защиты прав американцев, их данных и контролировать ИИ агентов».
Во время слушаний Демократы заявили, что нужно сделать больше для привлечения к ответственности ИИ разработчиков за действия их моделей.
Сенатор Richard Blumenthal: добровольное соглашение не обязывает корпорации раскрывать все нарушения, совершенные из-за ИИ или с помощью ИИ, и в любой момент компании могут отказаться от добровольно взятых на себя обязательств
Сенатор Richard Blumenthal, демократ, штат Коннектикут, представил проект закона совместно с Josh Hawley. Этот законопроект даст полномочия Министерству энергетики отслеживать риски, связанные с ИИ. Сенатор заявил, что добровольное соглашение, подписанное Трампом и топами техно корпораций, не решает проблемы. Ведь компании публично не раскрывают все нарушения, совершенные из-за ИИ или с помощью ИИ, выявленные внутренними аудитами, и в любой момент компании могут отказаться от добровольно взятых на себя обязательств.
Сенатор Richard Blumenthal: «Такое соглашение не просто неэффективно, оно вредно. Фактически, с техно компаниями ни о чем не договорились, но у Конгресса создается иллюзия, что проблема решена. Типа: «не переживайте, мы все уладили. Теперь есть это морально обязывающее соглашение».
Представители офиса Трампа заявили, что любые проблемы, вызванные ИИ, могут быть решены с помощью существующих законов. Однако, сенатор Ruben Gallego, демократ, штат Аризона, отметил во время слушаний, что «пока мы не изменим смысл слова «намерение» (или умысел) относительно ИИ разработчиков, они продолжат уходить от ответственности».
Ruben Gallego также поднял вопрос об ответственности компаний в свете будущих способностей ИИ агентов. «Что произойдет, если ИИ агент даст задание другому ИИ агенту что-то взломать? Кто будет нести ответственность? ИИ разработчик ИИ агента, который дал такую команду, или исполнитель- ИИ агент?»
Paul Ohm, профессор права в Центре права при Georgetown University, также выступал на панели. Профессор отметил: «Я не думаю, что система правонарушений по гражданскому праву может выдержать все, что мы озвучиваем, но это начало того, как это все сделать».
Ссылка на статью: