Экономим 3 часа времени - что важного обсуждали OpenAI, IBM, ученые и Конгресс США

Я отсмотрел все 3 часа слушаний и нашел в них столько инсайтов, что пришлось писать целую статью:

16 мая в Сенате США (одна из палат Конгресса) состоялись слушания на тему развития технологии искусственного интеллекта, его полезности и рисков, что несет за собой стремительное развитие этой технологии.

В слушаниях приняли участие:

  • Сэм Альтман - CEO OpenAI
  • Кристина Монтгомери - представляла IBM (не та, что из фильма “Вид сверху лучше”)
  • Гари Маркус - профессор NYU (написал 5 книжек про исследования ИИ и роботов)

Председателем слушаний выступил Ричард Блюменталь - сенатор США от Коннектикута. Возрастом 77 лет (вы узнаете через пару абзацев, почему это важно).

В статье я расскажу о том, какие темы затрагивали и как.

Сразу оговорюсь, что выводы оставляю Читателю - поскольку данные слушания лишь первые в грядущей серии. Окончательных решений на них принято не было - лишь обсуждения.

Оглавление

Что такое слушания и почему это круто

Все просто - это возможность для граждан и бизнеса влиять на содержание принимаемых законов.

Слушания Конгресса США по Искусcтвенному Интеллекту - by Eric Molinsky

Почему мне кажется это важным? Потому что я впервые увидел, как это происходит. И, так уж совпало: мой первый раз оказался удачным 🤤

Во-первых, слушания проходят открыто. Когда темы обсуждают популярные - просмотры достигают 20+ млн человек, а это почти 10% всего населения США.

Во-вторых, они действительно работают. По результатам слушаний образуются разные формы партнерства граждан/бизнеса и правительства, происходит обмен мнениями и аргументами - и эти аргументы ложатся в основу принимаемых далее правовых актов.

В-третьих, все участники там - люди. Не каждое правительство сегодня похоже на живых людей. И тем более - редкие представители правительства позволяют себе оставаться индивидуальностями: тогда как на этих слушаниях шуток прозвучало не меньше, чем в некоторых стендапах Бебурешвили.

У каждого сенатора было свое мнение, свои любимые команды и артисты, свои взгляды на предлагаемые инициативы. При этом не было ни обид, ни ядовитых колкостей. Вежливо, но открыто и честно.

Заседание открыл Deep Fake

Заседание открылось дип-фейком председателя: голос был сгенерирован одной нейросетью, текст - написал Chat GPT-4, обученный на речах сенатора.

Нечасто встретишь 77-летнего мужчину, способного удалить Viber и нагенерить себе речь в Chat GPT. Отмечу - самостоятельно.

Поскольку слушания проходят онлайн - в том числе и в аудио-формате, председатель отметил для зрителей, что это был Дип-фейк, но даже он сам различий - ни в голосе, ни в содержании (!) текста, особенно не обнаружил.

А значит, есть, что обсудить.

Интеллектуальная собственность и деньги, деньги, деньги

Первый Майк (помните времена рэп баттлов?) взяла сенатор Теннеси Марша Блэкберн - и тут я засмеялся:

Оказывается, Теннеси - как Уфа в России, родина звезд xDDD

Она перечислила горсть имен знаменитостей и перешла к сути, что лучше всего отражает гротеск капитализма:

“Вот вы обучили Chat GPT на произведениях музыкантов, а как они получат свои рояли?! Как вы прорабатываете этот вопрос?!”

Довольно странно слышать про деньги, когда изначально вопрос поднимался о Рисках для Человечества. Недополученная прибыль музыкантов - тоже риск, но все же другого уровня.

Фейки и влияние на выборы

Следующей темой стала возможность генеративных нейросетей производить невероятно правдоподобный контент. Тогда еще не было случая с “бомбежкой” Пентагона, но области применения и без того очевидны.

Фейковая бомбежка рядом с Пентагоном - Fox News

Хотя возможностей для генерации опасного/фейкового контента - множество, достаточно очевидно, что на Слушаниях этот вопрос рассматривался через призму грядущих выборов в США.

Риски применения ИИ в военных целях

Один из сенаторов поднял вопрос военного применения технологий ИИ: их использовали и ранее, но с кратным ростом мощностей и точности предсказаний - растут и риски.

Как и предыдущие вопросы - этот не вызвал разногласий участников: на прямой вопрос “может ли ИИ управлять, скажем, беспилотником, параллельно отслеживая поведение целей” - Сэм сказал “конечно, разумеется”.

Что будет с работой

Примечательно, что ни Бизнес, ни правительство капиталистической страны - совсем иначе видит проблему трудоустройства, что может вызвать резкий рост инноваций:

Все согласились с тем, что, как и бум доткомов в 00х или, позднее, расцвет СоцСетей - появившиеся компании только создали новые рабочие места. Тогда как “черновую” работу удается все больше автоматизировать.

Наблюдать нужно - бояться не стоит.

Каковы пути регулирования

В необходимости регулирования - сошлись все. В путях - не слишком:

  • Сэм и Гари поддержали идею лицензирования компаний
  • Тогда как Кристина из IBM не сдалась и настаивает на апгрейде уже существующих институций.

Отмечу, что речь шла о лицензировании крупных игроков, типа OpenAI, IBM, Google и прочих - при этом сохранив свободное развитие стартапов и исследований в этой области.

Лицензировать же предлагается Выпуск продуктов, поскольку разработку или обучение систем регулировать, де-факто, невозможно.

Отдельно отметили необходимость обсуждений на Международном уровне. И, конечно, США должны встать во главе всех будущих Международных Комиссий.

Инклюзивность - и что в ней хорошего

Любопытный вопрос поднял один из Сенаторов:

“А что вы делаете, и делаете ли что-нибудь, чтобы объять все языки? А не только английский”.

Думаю, нет необходимости пояснять, что поскольку большая часть данных в интернете - на английском языке, а модель Chat GPT обучалась на открытых данных Интернета - с Английским языком она показывает куда лучшие результаты, чем с любым другим.

И вот здесь я понял, какой есть плюс у всего этого бума на инклюзивность всего и вся:

Сенатор США задумывается о том, смогут ли получить равные возможности использования преимуществ ИИ - представители всех языков. На мой взгляд, это дорогого стоит.

(Когда он впервые произнес слово “инклюзивность” - представьте, о какой инклюзивности я подумал в свете споров об участии трансгендеров в женских/мужских командах)

Капитализм и снова деньги, деньги, деньги - но по-другому

Все тот же сенатор (у него не было таблички, не запомнил имя) поднял еще один вопрос, который меня поразил:

“Вы начинали как нон-профит, сейчас продались Майкрософту - не боитесь ли вы, как Майкрософт и другие корпорации могут использовать подобные инструменты? Даже несмотря на то, что Вы, как основатель - очевидно придерживаетесь разумных ценностей”.

Они поговорили про монетизацию, про персональные данные, про риски покупки большими хитрыми игроками - маленьких и открытых.

Конкуренция и будущее ИИ

Тема денег плавно перетекла в тему конкуренции:

Сэм подчеркнул, что просит о регулировании именно крупных игроков, поскольку в противном случае это может повлиять и на само развитие технологии, и на бизнес-атмосферу в принципе: тогда как у небольших стартапов в любом случае нет ресурсов, чтобы распространить что-то необъятно-опасное.

Также оговорился о том, что модель подписки и API была очень рискованной, но показала себя отлично и OpenAI не требуется дополнительно финансирование для поддержания работы. Поэтому они не просто не продают данные, но и хранят их лишь 30 дней, поскольку к этому обязывает закон.

А может, просто вас засудим?

Со-председатель собрания - Джош Хоули - молодой и энергичный сенатор, под конец заседания предложил еще один способ регулирования, заявив:

“А может, просто дадим возможность людям подавать на вас в суд?”

Подразумевался способ регулирования, когда существующее законодательство разбавят четкими гарантиями защиты от вреда, который может нанести генеративный ИИ -> чтобы люди могли уверенно подавать в суд, тем самым создавая прецеденты и стимулируя Компании самостоятельно подстраиваться под требования общественности.

Затея отличная - да и в целом, судиться с OpenAI можно и сейчас, но участники согласились, что это скорее обогатит некоторых юристов, но вряд ли поможет Оперативно защититься от тех рисков, что обсуждали все 3 часа.

Заключение

Слушания будут продолжаться - сколько их будет, пока неизвестно. Но по результатам у правительства США, бизнеса и граждан - будет сформировано:

  • Как минимум - понимание
  • Как максимум - четкий план: что, зачем и как регулировать

В конце слушаний также проговорили, что ИИ - не новый инструмент, ни для людей, ни для правительства. Он с нами уже давно - начиная от подбора следующей песни в Яндекс музыке, заканчивая предложенными правками к тексту в любимом айфончике.

Но именно с появлением Chat GPT, его виральностью и доступностью - риски и опасности стали очевидны. И я рад, что общество оперативно реагирует и работает над тем, чтобы не случился Скайнет. Даже если случится.

💜

0
13 комментариев
Написать комментарий...
Dmitry K.

Интересная статья, спасибо! Но каждый раздел будто не законченный: вопрос задан, а ответы от участников слушаний не приведены

Ответить
Развернуть ветку
Alex Sherman
Автор

Решил оставить в таком формате - поскольку будут новые слушания и по ходу формирования каких-то решений - буду дополнять.
Пока это был действительно просто длинный разговор.
Лично для меня самой поразительной частью был именно формат - очень открыто, очень круто. 🔥

Ответить
Развернуть ветку
Dmitry K.

Согласен, это очень высокий уровень взаимодействия общества, власти и бизнеса! Здорово, что так бывает и очень жаль, что не у нас. А где можно следить за слушаниями?

Ответить
Развернуть ветку
Alex Sherman
Автор

Если по серьезному, то можно тут - https://www.congress.gov/committee-schedule/weekly/2023/05/22

Если полегче - Youtube + CNN
https://www.youtube.com/live/TO0J2Yw7usM?feature=share

Ответить
Развернуть ветку
Наталья Антошина

Как сказать "высокий уровень" - сравните с любым другим, как то:
- нам вот тут в папочке принесли информацию, давайте порешаем (запретим все, неча умничать);
- нам сейчас представитель ( один от всего предпринимательства) - и, кстати, мой зять, золотой человек, доложит по форме, и потом я решу, что делать
- и так далее.
Это - в Конгрессе - нормальный уровень взаимодействия, и будут искать пути, их корректировать - чтобы потом соблюдать, а не искать, как бы обойти всякую чушь из "законов".

Ответить
Развернуть ветку
Роман Величкин
Довольно странно слышать про деньги, когда изначально вопрос поднимался о Рисках для Человечества. Недополученная прибыль музыкантов - тоже риск, но все же другого уровня.

Нэшвилль - это столица кантри в США. Там взрастили Тэйлор Свифт, Парамор и ещё мириады звёзд. Там крутится много музыкальных бабок. Город, когда я там был в 2008, показался мне комфортным и приятным.

Странно ожидать от сенатора Теннесси, что она не спросит про то, что интересно её избирателям. Это её работа.

Ответить
Развернуть ветку
C. Steel

Поздно пить боржоми. Фарш невозможно прокрутить назад.

Ответить
Развернуть ветку
Brno

У нас боржоми и так продавалась, так что аналогия не самая лучшая.

Ответить
Развернуть ветку
МяуВи

Спасибо за такую полезную выжимку💔

Ответить
Развернуть ветку
Роман Величкин
Что будет с работой

Этот абзац вообще сумбурно написан, ничего непонятно. К тому же автор, вместо того, чтобы рассказывать о том, что было на заседании, начал рассуждать так, будто мы видели это заседание. "Видали, что они сказали про рабочие места? Ну тупыыые" - а мы и понятия не имеем о том, что они сказали.

Что касается самого вопроса, я так понял, что они опасаются сокращения рабочих мест - это сложная тема. США стремятся к снижению безработицы и пытаются снизить социальное расслоение, оставаясь при этом бизнес-вотчиной.

Также всё же стоит держать в уме, что в Конгрессе сидят избранные политики. И избиратели сдерут с них шкуры, если те не будут бороться за высокооплачиваемую работу для населения.

Может быть, причина в двухпартийной системе. Может экзотические партии, типа, "За будущее и трансгуманизм" могли бы что-то изменить в отношении государства к рабочим местам.

Ответить
Развернуть ветку
Ден

нам Нужен ИИ, которые будет делать видеовыдержки из таких вод длинных обсуждений с возможностью более полно раскрывать те вопросы, которые заинтересовали при просмотре.
За работу автору спасибо, интересно

Ответить
Развернуть ветку
Хадижат Ахмедов

Вот бы и у нас проводились открытые слушания, которые работают

Ответить
Развернуть ветку
Вадим Клюев

важное там только одно: цензура, цензура и еще раз цензура, именно о ней пекутся больше всего

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
10 комментариев
Раскрывать всегда