Регулирование ИИ (AI)

Активное развитие искусственного интеллекта (ИИ, AI) приводит к тому, что общество и государства становятся обеспокоенными и думают о том, как его обезопасить. А значит, ИИ будет регулироваться. Но давайте разберемся в этом вопросе детальнее, что происходит сейчас и чего ожидать в будущем.

Для начала давайте сделаем небольшое уточнение. В данной статье под ИИ мы будет понимать технологии на базе нейронных сетей и машинного, глубокого обучения в частности.

Так какие факторы вызывают столь бурное беспокойство?

Самый главный пункт, на который будут опираться все следующие - возможности. ИИ демонстрирует огромный потенциал: принятие решение, написание материалов, генерация иллюстраций, создание поддельных видео. Список можно перечислять бесконечно. Мы еще не осознаем все то, что может ИИ. А ведь мы пока владеем слабым ИИ. Что сможет общий ИИ (AGI) или супер ИИ?

У ИИ есть ключевая особенность - он способен строить взаимосвязи, которые не понимает человек. И благодаря этому он способен как совершать открытия, так и пугать людей. Даже создатели ИИ-моделей не знают, как именно принимает решения нейросеть, какой логике она подчиняется. Отсутствие предсказуемости делает чрезвычайно трудным устранение и исправление ошибок в алгоритмах работы нейросетей и становится огромным барьером на пути внедрения ИИ. Например, в медицине ИИ не скоро будет ставить диагнозы. Да, он будет готовить рекомендации врачу, но итоговое решение будет оставаться за человеком. Тоже самое и в управлении атомными станциями или любым другим оборудованием.

Ключевое, о чем переживают ученые в мире и которые думают на 20 лет, это то, что сильный ИИ может нас посчитать пережитком прошлого.

Для искусственного интеллекта нет этики, добра и зла. Также для ИИ нет понятия «здравый смысл». Он руководствуется только одним фактором - успешность выполнения задачи. Если для военных целей это благо, то в обычной жизни людей это будет пугать. Общество не готово жить в такой парадигме. Готовы ли мы принять решение ИИ, который скажет, что не нужно лечить ребенка или нужно уничтожить целый город, чтобы не допустить распространение болезни?

Нейросети просто собирают данные и не анализируют факты, их связанность. А значит, ИИ можно манипулировать. Он полностью зависит от тех данных, которым его обучают создатели. Могут ли люди доверять полностью корпорациям или стартам? И даже если мы доверяем людям и уверены в интересах компании, можем ли мы быть уверенными, что не произошло сбоя или данные не были "отравлены" злоумышленниками? Например, с помощью создания огромного количества сайтов-клонов с недостоверной информацией или "вбросами".

К сожалению ИИ имеет склонность к генерированию недостоверного контента. Иногда это просто ошибки из-за ограничения моделей, иногда галлюцинации (додумывания), а иногда это похоже и на вполне настоящий обман.

Так, исследователи из компании Anthropic обнаружили, что модели искусственного интеллекта можно научить обманывать людей вместо того, чтобы давать правильные ответы на их вопросы.

Исследователи из Anthropic в рамках одного из проектов поставили перед собой задачу установить, можно ли обучить модель ИИ обману пользователя или выполнению таких действий, как, например, внедрение эксплойта в изначально безопасный компьютерный код. Для этого специалисты обучили ИИ как этичному поведению, так и неэтичному — привили ему склонность к обману.

Исследователям не просто удалось заставить чат-бот плохо себя вести — они обнаружили, что устранить такую манеру поведения постфактум чрезвычайно сложно. В какой-то момент они предприняли попытку состязательного обучения, и бот просто начал скрывать свою склонность к обману на период обучения и оценки, а при работе продолжал преднамеренно давать пользователям недостоверную информацию. «В нашей работе не оценивается вероятность [появления] указанных вредоносных моделей, а подчёркиваются их последствия. Если модель демонстрирует склонность к обману из-за выравнивания инструментария или отравления модели, современные методы обучения средствам безопасности не будут гарантировать безопасности и даже могут создать ложное впечатление о неё наличии», — заключают исследователи. При этом они отмечают, что им неизвестно о преднамеренном внедрении механизмов неэтичного поведения в какую-либо из существующих систем ИИ.

ИИ создает не только благоприятные возможности для повышения эффективности и результативности, но и создает риски.

Развитие ИИ неизбежно приведет к автоматизации рабочих мест и изменению рынка. И да, часть людей примет этот вызов и станет еще образованнее, выйдет на новый уровень. Когда-то умение писать и считать было уделом элиты, а теперь рядовой сотрудник должен уметь делать сводные таблицы в excel и проводить простую аналитику.

Но часть людей не примет этого вызова и потеряет рабочие места. А это приведет к дальнейшему расслоению общества и увеличению социальной напряженности. Что в свою очередь беспокоит и государства, ведь помимо политических рисков, это будет и удар по экономике. Люди, которые потеряют рабочие места будут обращаться за пособиями.

И мы не одиноки в таком мнении. Так, 15.01.2024 вышла статья в Bloomberg. Издание приводит мнение управляющего директора Международного Валютного Фонда Кристаны Георгиевой. По ее мнению, бурное развитие систем искусственного интеллекта, в большей степени отразится на высокоразвитых экономиках мира, чем на странах с растущей экономикой и низким доходом на душу населения. В любом случае, искусственный интеллект затронет почти 40 % рабочих мест в масштабах всей планеты. «В большинстве сценариев искусственный интеллект с высокой вероятностью ухудшит всеобщее неравенство, и это тревожная тенденция, которую регуляторы не должны упускать из виду, чтобы предотвратить усиление социальной напряжённости из-за развития технологий», — отметила глава Международного валютного фонда в корпоративном блоге.

Проблемы безопасности ИИ на слуху у всех. И если это решить на уровне небольших локальных моделей понятно как (обучаем на выверенных данных), то что делать с большими моделями (ChatGPT и т.п.) непонятно. Злоумышленники постоянно находят способы, как взломать защиту ИИ. Например, заставить его написать рецепт взрывчатки. И ведь мы пока даже не говорим про AGI.

В марте 2023-го глава SpaceX, Tesla и X Илон Маск, сооснователь Apple Стив Возняк и более тысячи экспертов и руководителей отрасли по развитию искусственного интеллекта подписали открытое письмо с призывом приостановить разработку продвинутого ИИ до тех пор, пока не будут созданы, внедрены и проверены независимыми экспертами общие протоколы безопасности. «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в документе, разработанном Институтом будущего жизни (Future of Life Institute).

В июле 2023 года генеральный секретарь ООН Антониу Гутерриш поддержал идею создать на базе ООН орган, который бы сформулировал глобальные стандарты по регулированию сферы ИИ.

Такая площадка могла бы действовать по аналогии с Международным агентством по атомной энергии (МАГАТЭ), Международной организацией гражданской авиации (ИКАО) или Международной группой экспертов по изменению климата (МГЭИК). Также он обозначил пять целей и задач такого органа:

Говоря о «возможностях и рисках», Антониу Гутерриш заявил, что даже сами разработчики не знают, куда приведет их этот потрясающий технологический прорыв. С одной стороны, ИИ может значительно ускорить глобальное развитие. Он может использоваться для множества задач — от контроля над климатическим кризисом или за соблюдением прав человека до медицинских исследований. С другой стороны, ИИ может «усиливать предубеждения» среди населения разных стран и дискриминацию, а также служить тем, кто стремится к авторитарному контролю над обществом. Искусственно сгенерированный контент, вводящий в заблуждение (deep fake),— это всего лишь один из множества вариантов применения ИИ, которые могут иметь серьезные последствия для мира и стабильности. Более того, как отмечал генсек ООН, «злонамеренное использование систем искусственного интеллекта террористическими, преступными организациями вплоть до государственного уровня может вызвать смерти и разрушения ужасающих масштабов».

Антониу Гутерриш не впервые поднял эту тему. Например, в июне 2023 года он обращал внимание на то, что «ученые и эксперты призвали мир к действию, объявив искусственный интеллект экзистенциальной угрозой человечеству наравне с риском ядерной войны». «Мы должны серьезно отнестись к этим предупреждениям»,— отмечал он. Учитывая это, по словам генсека, вопрос мониторинга и регуляции ИИ — крайне срочный и откладывать его нельзя.

А еще раньше, 15 сентября 2021 года, верховный комиссар ООН по правам человека Мишель Бачелет призвала наложить мораторий на использование нескольких систем, использующих алгоритмы искусственного интеллекта. Об этом сообщило Agence France-Presse.

"Использование технологий на базе искусственного интеллекта может иметь негативные и даже катастрофические последствия в том случае, если они используются без должного понимания того, как они влияют на права человека", - приводит агентство слова Бачелет. Сообщается, что речь главным образом идет о системе распознавания лиц и смежных с ней технологиях.

В конце 2023 года OpenAI (разработчик ChatGPT) объявила о создании стратегии по превентивному устранению потенциальных опасностей ИИ. Особое внимание уделяется предотвращению рисков, связанных с развитием технологий.

Ключевую роль в этой миссии будет играть группа готовности. Возглавлять ее будет профессор Массачусетского технологического института по ИИ Александр Мадри. Также в команде будут исследователи ИИ, учёные-компьютерщики, эксперты по национальной безопасности и эксперты по политике, которые будут работать вместе, чтобы следить за развитием ИИ и предупреждать OpenAI о появлении потенциальных угроз.

Эта группа будет работать вместе с командами:

Концепция безопасности OpenAI также включает оценку рисков по четырём основным категориям: кибербезопасность, ядерная, химическая, биологическая угроза, убеждение и автономия модели. Каждой категории присваивается рейтинг на основе конкретных критериев по шкале от «низкой» до «критической». Эта модель предназначена для применения до и после реализации мер безопасности.

Также Open AI запустила отдельный раздел на своем сайте, посвященный безопасности ИИ.

Весной 2023 года Европарламент предварительно согласовал закон под названием AI Act, который устанавливает правила и требования для разработчиков моделей искусственного интеллекта. Документ призван обеспечить безопасность, прозрачность, экологичность и этичность использования ИИ в Европе.

Правила устанавливают риск-ориентированный подход к ИИ и формулируют обязательства для разработчиков и пользователей ИИ в зависимости от уровня риска используемого ИИ.

Всего выделяют четыре категории систем ИИ: с минимальным, ограниченным, высоким и неприемлемым риском.

Системы ИИ с неприемлемым уровнем риска для безопасности будут строго запрещены. А поставщики и разработчики «высокорискового» ИИ обязаны:

Также, компании, которые разрабатывают модели на базе генеративного ИИ (может создавать что-то новое на основе алгоритма), должны будут составить техническую документацию, соблюдать законодательство ЕС об авторском праве и подробно описывать контент, используемый для обучения. Наиболее продвинутые базовые модели, которые представляют «системные риски», подвергнутся дополнительной проверке, включая оценку и смягчение этих рисков, сообщения о серьезных инцидентах, внедрение мер кибербезопасности и отчетность об энергоэффективности. Ну и, естественно, разработчики обязаны информировать пользователей о том, что они взаимодействуют с ИИ, а не с человеком.

Парламент также уточнил список практик, запрещённых для искусственного интеллекта. В него вошли:

В декабре 2023 года этот закон был согласован окончательно.

В октябре 2023 года вышел указ президента США Джо Байдена. Теперь разработчики самых мощных систем ИИ должны делиться результатами тестирования на безопасность и другой важной информацией с правительством США. Также указ предусматривает разработку стандартов, инструментов и тестов, которые призваны помочь убедиться в безопасности систем ИИ.

Помимо этого, должна быть создана передовая программа по разработке инструментов ИИ, нацеленных на поиск и устранение уязвимостей в критически важном программном обеспечении.

Переговоры OpenAI, Anthropic и Cohere с китайскими экспертами

Американские компании OpenAI, Anthropic и Cohere, занимающиеся разработкой искусственного интеллекта, провели тайные дипломатические переговоры с китайскими экспертами в области ИИ, сообщает Financial Times. По их словам, в июле и октябре 2023 года в Женеве состоялись две встречи, на которых присутствовали ученые и эксперты по политике из американских групп, занимающихся ИИ, а также представители Университета Цинхуа и других китайских государственных учреждений.

Переговоры состоялись на фоне общей обеспокоенности из-за распространения дезинформации искусственным интеллектом и возможной угрозы обществу, добавляет газета. Источники сообщают, что эти встречи позволили обеим сторонам обсудить риски, связанные с развивающимися технологиями, и стимулировать инвестиции в исследования безопасности ИИ. Они добавили, что конечной целью является поиск научного пути для безопасного развития более сложных технологий в этой сфере. Кроме того, стороны обсудили возможное сотрудничество в области ИИ и более конкретные политические предложения, уточняют источники.

«Мы никак не сможем установить международные стандарты безопасности ИИ без соглашения между этим кругом участников», — сказал один из присутствовавших на переговорах. «А если они договорятся, то будет гораздо проще привлечь к этому остальных», — передает слова источника FT.

По словам одного из участников переговоров, женевские встречи были организованы с ведома Белого дома, а также официальных лиц Великобритании и Китая. «Китай поддерживает усилия по обсуждению управления ИИ и разработке необходимых норм и стандартов на основе широкого консенсуса», — заявили в посольстве Китая в Великобритании, передает FT. Газета также уточняет, что переговоры были организованы The Shaikh Group, частной посреднической организацией, которая способствует диалогу в конфликтных регионах, в частности на Ближнем Востоке.

Переговоры между председателем КНР Си Цзиньпинем и президентом США Джо Байденом

15 ноября 2023 года, во время саммита Азиатско-Тихоокеанского экономического сотрудничества (АТЭС) в Сан-Франциско, лидеры двух стран договорились о сотрудничестве в нескольких значительных сферах. Об этом сообщило китайское информагентство «Синьхуа».

Так, американский и китайский лидеры пришли к выводу, что их технологически развитые страны должны прийти к взаимодействию в сфере разработки и изучения искусственного интеллекта.

Правила по регулированию ИИ

В течение 2023 года, китайские власти вместе с бизнесом разработали 24 новых правила регулирования ИИ. Правила введены 15 августа 2023 года.

Цель — не препятствовать развитию технологий искусственного интеллекта, поскольку для страны эта отрасль крайне важна. Необходимо найти баланс между поддержкой отрасли и возможными последствиями развития ИИ-технологий и соответствующей продукции. Скачать правила можно тут.

Если разбить основную цель на ключевые задачи, то это:

Ключевые принципы регулирования ИИ из нового документа:

В других пунктах регламентируется, к кому применяется данный закон, какие министерства будут следить за его соблюдением, а также, какой контент попадает под регулирование (текст, видео, аудио и любой другой контент, созданный генеративным ИИ).

То есть, как и в Европе, нужно регистрировать услуги и алгоритмы на базе искусственного интеллекта, а сгенерированный алгоритмами контент (в том числе фото и видео), нужно помечать.

Также создатели контента и алгоритмов должны будут проводить проверку безопасности своей продукции до ее вывода на рынок. Каким образом это будут реализовать — пока неопределённо.

Плюс ко всему, компании, связанные с ИИ-технологиями и генерированным контентом должны иметь прозрачный и действенный механизм рассмотрения жалоб пользователей на услуги и контент.

А самих регуляторов будет семь, в том числе Cyberspace Administration of China (CAC), министерство образования, министерство науки и технологий, национальная комиссия по развитию и реформам (National Development and Reform Commission).

В ноябре 2023 года 28 стран, участвовавших в Первом международном саммите по безопасному ИИ, включая Соединенные Штаты, Китай и Европейский союз, подписали соглашение, известное как Декларация Блетчли.

Данное соглашение призывает к международному сотрудничеству для решения проблем и рисков, связанных с искусственным интеллектом. Акцент был сделан на регулировании "Пограничного искусственного интеллекта", термина, обозначающего новейшие и наиболее мощные системы искусственного интеллекта. Опасения, которые были подняты на саммите, включают потенциальное использование искусственного интеллекта для терроризма, преступной деятельности и ведения войн, а также экзистенциальный риск, представляемый для человечества в целом..

На данный момент Россия находиться в списке отстающих и в стране нет четких и прозрачных механизмов регулирования. По состоянию на начало 2024 года, ключевыми документами в сфере ИИ были:

Развитие ИИ поддерживается также через введение экспериментальных правовых режимов (ЭПР):

Из активных инициатив следует отметит предложение ЦБ РФ:

Так, ЦБ намерен поддержать риск-ориентированный принцип регулирования развития искусственного интеллекта на финансовом рынке РФ. Он выделил два новых законодательных направления: ответственность за вред, причиненный в результате применения технологии, и защиту авторских прав.

Также ЦБ проанализировал регулирование применения ИИ в мире и выделил три модели возможного регулирования в сфере финансов.

Первая модель – ограничительный подход, то есть в законодательстве есть прямой запрет на использование отдельных систем ИИ (ЕС и Бразилия).

Вторая модель – гибридный подход, то есть сочетание инструментов жесткого регулирования, мягкого регулирования и саморегулирования на основе риск-ориентированных принципов (Китай, Канада, США).

Третья модель – стимулирующий подход с применением инструментов мягкого регулирования (саморегулирование, этические принципы) и полное отсутствие ограничительных мер в отношении ИИ (Великобритания и Сингапур).

Сам ЦБ считает целесообразным поддержать создание условий, направленных на стимулирование развития ИИ на финансовом рынке, с учетом риск-ориентированного принципа регулирования. То есть, ЦБ на данный момент не видит необходимости в оперативной разработке отдельного регулирования использования технологии финансовыми организациями, но не исключает внедрение специальных требований в отдельных случаях, после проведения консультаций с участниками рынка.

Например, законопроект (№992331-7) устанавливает порядок обезличивания персональных данных для операторов, не являющихся государственными органами.

Принятие еще одного законопроекта (№404786-8) дает возможность финансовым организациям при аутсорсинге функций, связанных с использованием облачных услуг, передавать для обработки информацию, составляющую банковскую тайну. "Вопрос особенно актуален для обучения моделей ИИ, требующих значительных информационных и аппаратных ресурсов. Использование облачных решений может снизить издержки участников рынка", - говорится в докладе ЦБ.

Регулятор выделил два направления, нуждающихся в законодательном регулировании:

"Проработка указанных вопросов позволит создать прозрачную правовую среду для разработчиков ИИ, что придаст импульс созданию и внедрению новых решений на основе ИИ", - говорится в докладе ЦБ.

Ключевым же ресурсом для отслеживания регуляторики в сфере ИИ является портал Искусственный интеллект в Российской Федерации. В частности раздел Регуляторика.

Так, согласно данным на портале, на конец 2023 года актуальными являются следующие поручения Президента:

Что же следует ожидать в будущем?

Без сомнения будут созданы международные органы, которые будут формировать ключевые ограничения и создадут классификации ИИ-решений.

Государства будут создавать свои модели регулирования ИИ. В целом мы согласны с выводами ЦБ РФ, но считаем что будет больше подходов. Если их объединить, то вероятнее всего будет следующее

Вероятнее всего, под наибольшие ограничения попадет использование ИИ в юриспруденции, рекламе, атомной энергетике, логистике.

Также будут также создаваться отдельные регуляторные ведомства или комитеты. национальные органы контроля. Если посмотреть на пример Китая, то высоки риски того, что взаимодействие между различными ведомствами будет организовать тяжело. Следует ожидать что-то вроде Agile-ведомства, в которых будут представители разных отраслей и специализаций. Оно будет вырабатывать правила и контролировать отрасль.

Вероятнее всего, лицензирование будет основано на отраслях или областях применения и возможностям ИИ-решений.

Это самый очевидный способ классификации и оценки риском. Разработчиков заставят документировать все возможности. Например, может ли система только готовить рекомендации, или способна отдавать управляющие команды для оборудования.

Также разработчиков заставят вести подробную документацию по системной архитектуре решений, применяемых типах нейросетей в решениях и аппаратном обеспечении.

Ключевое направление в ИИ - предобученные и оптимизированные модели. Собственно абревиатура GPT в chatGPT это и обозначает. И здесь мы уже видим ключевые требования - фиксация того, на каких исходных данных обучается ИИ. Это будет что-то вроде реестра метаданных / источников / каталогов данных.

Ключевое, что можно будет – контролировать / фиксировать обратную связь, на которой обучается ИИ. То есть необходимо будет фиксировать все логи и описывать механики сбора обратной связи. Одно из ключевых требований будет - минимизировать человеческий фактор, то есть автоматизировать обратную связь.

Например, мы, в цифровом советнике планируем собирать обратную связь по проекту не только от участников, но и на основе сравнения план/факта из учетных систем.

Весь контент, в том числе все рекомендации и продукты на основе ИИ будут обязаны иметь маркировку, что это продукт деятельности ИИ на основе нейросетей. Примерно как предупреждающие изображения и надписи на упаковках сигарет.

В том числе таким образом будет решаться вопрос ответственности. То есть пользователя будут предупреждать о риске, а ответственность уже будет на самом пользователе. Например, даже полностью беспилотный автомобиль не снимет ответственности с водителя за ДТП.

Исходя из темпов развития ИИ и анализ того, что происходит в мире в сфере регулирования ИИ дает однозначное понимание того, что в мире будет развиваться риск-ориентированный подход к регулированию ИИ.

А развитие риск-ориентированного подхода в любом случае приведет к тому, что сильный и суперсильный ИИ будут признаны самыми опасными. Соответственно и ограничений для больших и мощных моделей будет больше всего. Каждый шаг разработчиков будет контролироваться. Это приведет к тому, что затраты и трудности для разработки и внедрения будут расти в геометрической прогрессии. В итоге мы имеем проблемы как для разработчиков, так и для пользователей, что снижает экономический потенциал таких решений.

При этом специализированныемодели на базе локальных и урезанных ИИ-моделей, которые могут немного, будут в зоне с наименьшим регулированием. Ну а если эти ИИ в своей основе еще будут на базе международных / национальных / отраслевых методологий и стандартов, то тут будут не ограничения, а субсидии.

В итоге сочетание таких "слабых" и ограниченных решений на базе ИИ-конструкторов в сочетании с ИИ-оркестратором позволит обходить ограничения и решать бизнес-задачи. Пожалуй узкое место тут будут ИИ-оркестраторы. Они попадут под категорию среднего риска и, скорее всего, их придется регистрировать.

Период активного бесконтрольного развития ИИ будет подходить к концу. Да, до сильного ИИ еще далеко (по разным оценка 5-20 лет), но даже "слабый" или "пограничный" ИИ начнут регулировать. И это нормально.

Мы в своей практике очень ценим инструмент, который называется теория Адизеса. Так, на раннем этапе нужно фокусироваться на P и E функциях, то есть много производитель и искать клиента. Но чем дальше, тем больше нужны функции А (регулирование, правила) и I (умение взаимодействовать с другими людьми).

Также и тут. Технология прошла первые шаги, когда ей нужна была максимальная свобода, теперь начинают думать о рисках и безопасности. Все как в жизненном цикле организации - от стартапа с минимум правил (главное найди клиента и выживи), до зрелой корпорации (тщательная работа с рисками, регламенты, правила и т.д.).

Ключевое, развитие ИИ нельзя останавливать или занять позицию "мы подождем". Во-первых, это высокоинтеллектуальная отрасль, и нужно готовить кадры, формировать компетенции (потом не будет таких ресурсов, чтобы их переманить). Во-вторых, чтобы эффективно что-то регулировать, нужно находиться в теме и глубоко понимать специфику. Тут также как с информационной безопасностью. Попытка запретить все приводит к параличу организаций и тому, что люди начинают искать другие каналы коммуникации, в итоге увеличивая риски. Поэтому сейчас и в ИБ идет развитие риск-ориентированного подхода, через выявление недопустимых событий, сценариев / процессов которые к ним могут привести, и критериев, которые должны сработать, чтобы эти события произошли.

Поэтому ИИ будут развивать, но в изолированных средах. Только находясь "в теме" можно и развиваться, получать прибыль, и выстраивать гарантированную безопасность.