Экономим 3 часа времени - что важного обсуждали OpenAI, IBM, ученые и Конгресс США

Я отсмотрел все 3 часа слушаний и нашел в них столько инсайтов, что пришлось писать целую статью:

16 мая в Сенате США (одна из палат Конгресса) состоялись слушания на тему развития технологии искусственного интеллекта, его полезности и рисков, что несет за собой стремительное развитие этой технологии.

В слушаниях приняли участие:

Председателем слушаний выступил Ричард Блюменталь - сенатор США от Коннектикута. Возрастом 77 лет (вы узнаете через пару абзацев, почему это важно).

В статье я расскажу о том, какие темы затрагивали и как.

Сразу оговорюсь, что выводы оставляю Читателю - поскольку данные слушания лишь первые в грядущей серии. Окончательных решений на них принято не было - лишь обсуждения.

Все просто - это возможность для граждан и бизнеса влиять на содержание принимаемых законов.

Почему мне кажется это важным? Потому что я впервые увидел, как это происходит. И, так уж совпало: мой первый раз оказался удачным 🤤

Во-первых, слушания проходят открыто. Когда темы обсуждают популярные - просмотры достигают 20+ млн человек, а это почти 10% всего населения США.

Во-вторых, они действительно работают. По результатам слушаний образуются разные формы партнерства граждан/бизнеса и правительства, происходит обмен мнениями и аргументами - и эти аргументы ложатся в основу принимаемых далее правовых актов.

В-третьих, все участники там - люди. Не каждое правительство сегодня похоже на живых людей. И тем более - редкие представители правительства позволяют себе оставаться индивидуальностями: тогда как на этих слушаниях шуток прозвучало не меньше, чем в некоторых стендапах Бебурешвили.

У каждого сенатора было свое мнение, свои любимые команды и артисты, свои взгляды на предлагаемые инициативы. При этом не было ни обид, ни ядовитых колкостей. Вежливо, но открыто и честно.

Заседание открылось дип-фейком председателя: голос был сгенерирован одной нейросетью, текст - написал Chat GPT-4, обученный на речах сенатора.

Нечасто встретишь 77-летнего мужчину, способного удалить Viber и нагенерить себе речь в Chat GPT. Отмечу - самостоятельно.

Поскольку слушания проходят онлайн - в том числе и в аудио-формате, председатель отметил для зрителей, что это был Дип-фейк, но даже он сам различий - ни в голосе, ни в содержании (!) текста, особенно не обнаружил.

А значит, есть, что обсудить.

Первый Майк (помните времена рэп баттлов?) взяла сенатор Теннеси Марша Блэкберн - и тут я засмеялся:

Оказывается, Теннеси - как Уфа в России, родина звезд xDDD

Она перечислила горсть имен знаменитостей и перешла к сути, что лучше всего отражает гротеск капитализма:

“Вот вы обучили Chat GPT на произведениях музыкантов, а как они получат свои рояли?! Как вы прорабатываете этот вопрос?!”

Довольно странно слышать про деньги, когда изначально вопрос поднимался о Рисках для Человечества. Недополученная прибыль музыкантов - тоже риск, но все же другого уровня.

Следующей темой стала возможность генеративных нейросетей производить невероятно правдоподобный контент. Тогда еще не было случая с “бомбежкой” Пентагона, но области применения и без того очевидны.

Хотя возможностей для генерации опасного/фейкового контента - множество, достаточно очевидно, что на Слушаниях этот вопрос рассматривался через призму грядущих выборов в США.

Один из сенаторов поднял вопрос военного применения технологий ИИ: их использовали и ранее, но с кратным ростом мощностей и точности предсказаний - растут и риски.

Как и предыдущие вопросы - этот не вызвал разногласий участников: на прямой вопрос “может ли ИИ управлять, скажем, беспилотником, параллельно отслеживая поведение целей” - Сэм сказал “конечно, разумеется”.

Примечательно, что ни Бизнес, ни правительство капиталистической страны - совсем иначе видит проблему трудоустройства, что может вызвать резкий рост инноваций:

Все согласились с тем, что, как и бум доткомов в 00х или, позднее, расцвет СоцСетей - появившиеся компании только создали новые рабочие места. Тогда как “черновую” работу удается все больше автоматизировать.

Наблюдать нужно - бояться не стоит.

В необходимости регулирования - сошлись все. В путях - не слишком:

Отмечу, что речь шла о лицензировании крупных игроков, типа OpenAI, IBM, Google и прочих - при этом сохранив свободное развитие стартапов и исследований в этой области.

Лицензировать же предлагается Выпуск продуктов, поскольку разработку или обучение систем регулировать, де-факто, невозможно.

Отдельно отметили необходимость обсуждений на Международном уровне. И, конечно, США должны встать во главе всех будущих Международных Комиссий.

Любопытный вопрос поднял один из Сенаторов:

“А что вы делаете, и делаете ли что-нибудь, чтобы объять все языки? А не только английский”.

Думаю, нет необходимости пояснять, что поскольку большая часть данных в интернете - на английском языке, а модель Chat GPT обучалась на открытых данных Интернета - с Английским языком она показывает куда лучшие результаты, чем с любым другим.

И вот здесь я понял, какой есть плюс у всего этого бума на инклюзивность всего и вся:

Сенатор США задумывается о том, смогут ли получить равные возможности использования преимуществ ИИ - представители всех языков. На мой взгляд, это дорогого стоит.

(Когда он впервые произнес слово “инклюзивность” - представьте, о какой инклюзивности я подумал в свете споров об участии трансгендеров в женских/мужских командах)

Все тот же сенатор (у него не было таблички, не запомнил имя) поднял еще один вопрос, который меня поразил:

“Вы начинали как нон-профит, сейчас продались Майкрософту - не боитесь ли вы, как Майкрософт и другие корпорации могут использовать подобные инструменты? Даже несмотря на то, что Вы, как основатель - очевидно придерживаетесь разумных ценностей”.

Они поговорили про монетизацию, про персональные данные, про риски покупки большими хитрыми игроками - маленьких и открытых.

Тема денег плавно перетекла в тему конкуренции:

Сэм подчеркнул, что просит о регулировании именно крупных игроков, поскольку в противном случае это может повлиять и на само развитие технологии, и на бизнес-атмосферу в принципе: тогда как у небольших стартапов в любом случае нет ресурсов, чтобы распространить что-то необъятно-опасное.

Также оговорился о том, что модель подписки и API была очень рискованной, но показала себя отлично и OpenAI не требуется дополнительно финансирование для поддержания работы. Поэтому они не просто не продают данные, но и хранят их лишь 30 дней, поскольку к этому обязывает закон.

Со-председатель собрания - Джош Хоули - молодой и энергичный сенатор, под конец заседания предложил еще один способ регулирования, заявив:

“А может, просто дадим возможность людям подавать на вас в суд?”

Подразумевался способ регулирования, когда существующее законодательство разбавят четкими гарантиями защиты от вреда, который может нанести генеративный ИИ -> чтобы люди могли уверенно подавать в суд, тем самым создавая прецеденты и стимулируя Компании самостоятельно подстраиваться под требования общественности.

Затея отличная - да и в целом, судиться с OpenAI можно и сейчас, но участники согласились, что это скорее обогатит некоторых юристов, но вряд ли поможет Оперативно защититься от тех рисков, что обсуждали все 3 часа.

Слушания будут продолжаться - сколько их будет, пока неизвестно. Но по результатам у правительства США, бизнеса и граждан - будет сформировано:

В конце слушаний также проговорили, что ИИ - не новый инструмент, ни для людей, ни для правительства. Он с нами уже давно - начиная от подбора следующей песни в Яндекс музыке, заканчивая предложенными правками к тексту в любимом айфончике.

Но именно с появлением Chat GPT, его виральностью и доступностью - риски и опасности стали очевидны. И я рад, что общество оперативно реагирует и работает над тем, чтобы не случился Скайнет. Даже если случится.

💜