Встреча сената США с миллиардерами из технологической элиты по вопросам ИИ
Десятки сенаторов США молча слушали, как специалисты по вопросам искусственного интеллекта рассказывали им о рисках использования и развития ИИ.
Впервые в истории, около 60 сенаторов сидели как школьники, не имея права говорить и даже поднимать руки, на закрытом брифинге, где около 20 руководителей компаний Силиконовой долины, специалистов, ученых вещали о том, что ИИ может изменить жизнь, какой мы ее знаем.
В какой-то момент Чак Шумер, демократ из Нью-Йорка, который организовал брифинг, спросил собравшихся: "Должно ли правительство играть какую-либо роль в регулировании ИИ?". В зале заседаний был достигнут консенсус по поводу того, что регуляторная мощь федерального правительства необходима. Решение было единогласным.
"Я думаю, что все согласились с тем, что в этом вопросе нам необходим контроль правительства", - сказал Сэм Альтман, генеральный директор компании OpenAI, создавшей ChatGPT. "Есть некоторые разногласия по поводу того, как это должно происходить, но все единодушны в том, что это важно и срочно".
По словам участников, вопросы ИИ настолько всеобъемлющи, что несмотря на единство в необходимости регулирования возникло множество споров, касающихся деталей этого процесса.
К удивлению многих, сессия изобиловала конкретикой. Некоторые участники говорили о потребности в высококвалифицированных сотрудниках, а соучредитель Microsoft Билл Гейтс - о том, как накормить голодающих в мире))) Одни предлагали создать новую масштабную структуру по ИИ, другие утверждали, что существующие структуры, например Национальный институт стандартов и технологий (NIST) лучше всего подходят для регулирования.
Марк Цукерберг, Илон Маск, Билл Гейтс и Сундар Пичаи, все они сходились во мнении, что США должны играть ведущую роль в регулировании ИИ.
Были приведены примеры, как с помощью ИИ на 400 долларов можно организовать кампанию по дезинформации, также было рассказано о том, как 800 долларов и несколько часов работы лишили языковую модель Llama 2 компании Meta средств контроля безопасности и заставили ее поделиться инструкциями по созданию биологического оружия.
"Мы как будто спорили о том, как мало стоит разрушить мир", - говорит Вайнгартен (президент Американской федерации учителей), указывая на высказывание Маска о том, что искусственный интеллект может привести к концу цивилизации.
Была раскритикована система искусственного интеллекта Autopilot компании Tesla, которая якобы привела к гибели пассажиров.
Был очень полезный опыт обсуждений, но к чему-то конкретному придти не удалось.
"Готовы ли мы выйти и написать закон? Абсолютно нет", - говорит сенатор Майк Раундс. "Мы еще не готовы".
"В общих чертах, я думаю, что нет никаких оснований ожидать, что в следующем году что-то будет сделано", - говорит сенатор Джон Хикенлупер.
Думаю стоит ожидать подобных обсуждений на высшем уровне в остальных странах, в том числе и у нас (правда с криптой еще не до конца разобрались, сложна для дядек в костюмах это). Ну а американцы собрались ради того, чтобы просто быть первыми видимо))
Источник: