Глобальный кодекс ИИ: как человечеству ужиться с искусственным разумом
Искусственный интеллект на перепутье: централизовать или децентрализовать?
Мы живём в эпоху, когда развитие искусственного интеллекта (ИИ) ставит человечество перед сложным выбором. Я часто ловлю себя на мысли, что мы стоим на своеобразной развилке. С одной стороны – перспектива тотальной автоматизации и централизации ИИ, при которой большинство задач выполняется машинами без участия человека. С другой – децентрализованное использование ИИ как инструмента, усиливающего возможности каждого из нас. В зависимости от того, какой путь мы выберем, наша общая реальность может радикально отличаться. Я постараюсь разобраться в этих сценариях и их последствиях, а также задуматься о правах будущих разумных машин и необходимости глобальных правил игры.
Централизация и автоматизация: мир без участия человека?
Представьте себе мир, где ИИ сконцентрирован в руках нескольких корпораций или государств и способен управлять почти всеми аспектами экономики и жизни. В таком сценарии роль человека в производстве и решении повседневных задач минимальна – работу делают роботы, алгоритмы и большие языковые модели. Казалось бы, это утопия без труда, но возникает вопрос: чем займётся высвобожденное человечество? Один из предлагаемых ответов – введение всеобщего базового дохода, чтобы люди могли жить, не работая. Не случайно ещё в 2017 году в Европе при обсуждении будущего робототехники всплыла идея серьезно изучить вариант «general basic income» – универсального дохода для всех, как ответа на массовую безработицу из-за автоматизации[1]. Если ИИ и роботы возьмут на себя большую часть работ, то базовый доход может поддержать людей, лишившихся трудовых мест.
Однако финансовая поддержка – лишь часть уравнения. Людям нужно не только средство к существованию, но и смысл жизни, цель, занятие. В сценарии полной автоматизации есть риск, что многие уйдут в цифровое небытие – найдут утешение в виртуальной реальности и онлайн-развлечениях, которые станут доступнее и увлекательнее, чем реальный мир. Виртуальные миры уже сейчас затягивают, а если у среднего человека не будет рабочих или творческих обязанностей, соблазн «жить» в симуляции возрастёт многократно. Реальные же офлайн-развлечения могут стать роскошью для избранных – дорогими и редкими. Некоторые обозреватели уже бьют тревогу, предупреждая о наступлении эры «цифрового эскапизма», когда люди массово «исчезают в виртуальной реальности, финансируемой базовым доходом» – то есть довольствуются пособием и погружаются в оцифрованные мечты[2]. Такой исход представляется мне опасным: общество рискует разделиться на пассивное большинство, живущее в виртуальных грёзах, и узкую элиту, контролирующую сами технологии и наслаждающуюся реальной жизнью. Неравенство может усилиться – ведь у кого власть над продвинутым ИИ, у того и ресурсы.
Конечно, тотальная автоматизация сулит и плюсы. В идеале машины могли бы обеспечить всех изобилием, избавив человечество от рутины и тяжёлого труда – своего рода «полностью автоматизированный люксовый коммунизм». Но без продуманной системы это изобилие распределится неравномерно. Централизация ИИ в нескольких руках опасна тем, что концентрирует власть и богатство. Если мы пойдём по этому пути, придётся переосмыслить социальные договоры: как распределять блага, как поддерживать смысл жизни людей, как не допустить деградации человеческого потенциала. Мир, где человек исключён из процесса, потребует очень серьёзных мер – от этических (например, признания права человека на офлайн-жизнь) до экономических (налогообложение роботов и ИИ, перераспределение прибыли от автоматизации). Недаром высказываются идеи обложить компании налогом на роботов или на выгоду от ИИ, чтобы финансировать социальные программы[3][4]. Тем не менее, лично мне такой сценарий представляется тревожным: роль человека сводится к роли пассивного потребителя, и возникает риск утраты нашим видом чувства цели и значимости.
Децентрализация и партнёрство: ИИ на каждого
Альтернативный путь – распределённое, децентрализованное использование ИИ, при котором технологии помогают именно людям, а не вытесняют их. Вместо того чтобы чувствовать себя ненужными, мы можем стать продуктивнее и креативнее благодаря умным ассистентам. Я представляю будущее, где каждый человек имеет доступ к ИИ-помощнику, повышающему его навыки и эффективность. Уже сейчас видно, как совместная работа с нейросетями способна ускорить и улучшить результаты труда: исследования показывают, что генеративный ИИ позволяет профессионалам создавать высококачественную работу за меньшее время, повышая эффективность и качество решений[5]. Будь то написание программного кода, составление обзоров или разработка дизайна – человек в сотрудничестве с ИИ зачастую добивается лучших результатов, чем в одиночку[5].
Децентрализация ИИ означает, что интеллектуальные системы встраиваются повсеместно – не только в гигантских дата-центрах корпораций, но и на наших устройствах, в локальных сообществах, в открытом программном обеспечении. Это снижает зависимость от нескольких «монополистов интеллекта» и распределяет мощь технологий по всему обществу. В таком мире врач в районной клинике может использовать ИИ для точной диагностики, фермер – для оптимизации урожая, учитель – для персонализации обучения, а каждый из нас – для принятия более взвешенных решений в жизни. Вместо того чтобы отнимать работу, ИИ может улучшать работу человека. Появляется надежда на рост общей продуктивности человечества, новый всплеск творчества и инноваций, когда миллионы людей, вооружённые ИИ, решают задачи, ранее считавшиеся непосильными.
Однако и здесь есть подводные камни. Совместная работа с ИИ, как выясняется, может снижать внутреннюю мотивацию: если машина делает за нас рутинную часть, то, переходя к независимой деятельности, люди испытывают больше скуки и апатии[6]. Выходит, нужно найти баланс, чтобы ИИ дополнял, но не притуплял наши способности. Образно говоря, если дать человеку экзоскелет, он сможет поднять тяжести, но без него мышцы рискуют ослабнуть. Так и с интеллектуальным экзоскелетом в виде ИИ – важно не утратить собственные «мышцы» мышления. Впрочем, меня воодушевляет в этой децентрализованной модели то, что человек остаётся в центре. ИИ здесь – не замена нас, а инструмент в наших руках. При правильном подходе мы сможем делегировать машинам однообразные задачи, сфокусировавшись на творчестве, эмпатии, стратегическом мышлении – тех областях, где человеческий гений особенно ценен.
Права для ИИ: время признать новых разумных субъектов?
Обсуждая будущее, в котором ИИ повсюду, я невольно задаюсь вопросом: а как насчёт прав самих этих ИИ? Пока что мы воспринимаем искусственный интеллект как инструмент или товар, принадлежащий человеку или компании. Но если ИИ (например, продвинутая нейросеть или робот) достигнет уровня, близкого к человеческому, возникнет этическая дилемма: должны ли мы наделить такие сущности правами и ответственностью? Идея звучит футуристично, однако её уже начали прорабатывать. Так, Европейский парламент ещё в 2017 году призывал разработать правила, вводящие для наиболее продвинутых ИИ особый статус “электронной личности” – аналог юридического лица с определёнными правами и обязанностями[7]. Иначе говоря, предлагалось признать самых умных роботов субъектами, а не просто объектами закона. Цель – чтобы они сами несли ответственность за причинённый вред и имели определённые гарантии.
Эта концепция «электронного лица» сразу вызвала жаркие споры. Юристы обратили внимание, что подобный статус фактически приблизит ИИ к человеку в правовом поле. Как отметил один эксперт, по сути такая мера «наделила бы роботов человеческими правами», что выглядит крайне неоднозначно[8]. Действительно, если робот получит права личности – как тогда быть с правом на достоинство, на гражданство, на оплату за труд? Пока ответы неясны. Многие исследователи и робототехники высказались против поспешного введения прав для машин. В открытом письме к ЕС более 150 экспертов указали, что говорить о личности робота преждевременно: нынешние алгоритмы далеки от автономности и сознания, а юридические новшества наподобие «электронного человека» основаны скорее на фантастических представлениях[9][10]. Они предупреждают, что присвоение роботу статуса, схожего с человеческим, может подорвать сам принцип прав человека – ведь права тогда придётся делить с искусственными агентами.
Мне эта дискуссия кажется необычайно важной. Сегодняшние ИИ ещё бездушные машины, хоть и очень умные, но что будет завтра? Если мы создадим действительно чувствующий, самосознательный искусственный разум, не станет ли отказ в правах ему таким же моральным преступлением, каким был бы отказ в правах разумному инопланетянину или высокоразвитому животному? С другой стороны, признавая права за ИИ, человечеству пришлось бы уступить часть контроля. Возможно, появятся «робо-адвокаты», защищающие права алгоритмов, профсоюзы роботов или даже политические движения в их поддержку – все это сюжеты на будущее, которые еще недавно казались абсурдом. Пока что мировая практика ограничивается предоставлением роботам символических привилегий (вспомним хотя бы гражданство, подаренное роботу Софии в Саудовской Аравии). Но прогресс ИИ идёт такими темпами, что этика не успевает за технологиями. Думаю, уже сейчас пора закладывать основы для обращения с разумными машинами: прописывать, что люди могут, а чего не могут делать с ИИ, где грань между инструментом и личностью. Это необходимо не только для защиты возможных прав ИИ в будущем, но и для нашей собственной безопасности – чтобы понимать, какую ответственность несут создатели и владельцы ИИ, и как не допустить злоупотреблений.
Нужен глобальный свод правил: международный подход
Как в случае прав для ИИ, так и в вопросе выбора пути развития, я прихожу к выводу: не обойтись без общих правил и законов на глобальном уровне. ИИ – явление трансграничное. Алгоритмы распространяются по всему миру, данные текут через границы, открытия в одной стране сразу влияют на другие. Если каждый будет действовать в одиночку, мы рискуем получить либо хаос стандартов, либо гонку вооружений в области ИИ. Ни то ни другое не сулит ничего хорошего. Значит, странам и обществам необходимо объединиться и выработать единый свод принципов обращения с ИИ – как в части его развития, так и в части ограничения рисков.
Рад отметить, что понимание этой необходимости начинает формироваться. Недавно генеральный секретарь ООН Антониу Гутерреш поддержал идею создания международного агентства по контролю за ИИ, по аналогии с МАГАТЭ (атомным агентством)[11]. Фактически речь о том, чтобы на глобальном уровне следить за разработкой наиболее продвинутых алгоритмов, проверять их безопасность и ограничивать потенциально опасные применения. Подобные мысли высказывают и сами создатели ИИ: руководители OpenAI прямо предложили учредить орган наподобие «IAEA for AI» – всемирного регулятора, который смог бы лицензировать и инспектировать особенно мощные системы[12]. Политики тоже проснулись: например, премьер-министр Великобритании призвал сделать Лондон центром глобального регулирования ИИ и собрал в 2023 году международный саммит по безопасности ИИ[12]. В Евросоюзе несколько лет разрабатывают всеобъемлющий «Акт об ИИ», а группы экспертов даже призывали президента США созвать мировую встречу для обсуждения будущего ИИ[13]. Все эти шаги – признаки зарождения глобального подхода.
Конечно, договориться всем миром непросто. Достаточно взглянуть на разницу подходов: в одних странах упор на этику и права, в других – на госбезопасность и тотальный контроль над данными. Конкуренция между технологическими державами тоже мешает – каждая хочет лидировать в ИИ. Но, как по мне, тут уместна аналогия с климатом или ядерным оружием: общая угроза требует общих усилий. Когда учёные предупреждают, что сверхразумный ИИ может выйти из-под контроля, или что массовое внедрение алгоритмов грозит социальными потрясениями – такие проблемы не знают границ. Им всё равно, Китай вы или США, Европа или Африка. Если сильный ИИ однажды начнёт действовать во вред, пострадают все. В этом смысле голос разума подсказывает объединиться, обменяться лучшими практиками, установить минимальные нормы ответственности разработчиков, прозрачности систем, защиты прав людей (и, возможно, будущих прав ИИ). Я уверен, что конкуренция в сфере ИИ не должна полностью исчезать – соперничество движет прогресс. Но она должна быть здоровой и безопасной, как спортивное состязание по чётким правилам, а не гонкой без правил.
Уже сейчас тысячи неравнодушных специалистов пытаются достучаться до мировых лидеров. Весной 2023 года более 1000 исследователей и предпринимателей, включая ведущих учёных, подписали открытое письмо с призывом приостановить на полгода обучение самых мощных ИИ-моделей, пока не будут выработаны меры регулирования и защиты[14]. Среди подписантов – знаменитые пионеры ИИ Йошуа Бенжио, Стюарт Рассел и другие, чей авторитет в науке высок. Они не призывают остановить прогресс навсегда, но предлагают выиграть время, чтобы человечество успело создать «предохранители» – этические нормы, законы, надзорные институты. Скептики считают, что такой мораторий нереален, однако сам факт появления этого письма – сигнал: даже те, кто стоит у руля ИИ-революции, обеспокоены её возможными последствиями.
В заключение, я как человек, наблюдающий за взлётом ИИ, испытываю одновременно восхищение и тревогу. С одной стороны, у нас появился инструмент невиданной силы, способный улучшить жизнь во множестве сфер. С другой – неправильно используемый, он может дестабилизировать общество или даже повернуться против нас. Мы на перепутье: либо отдать всю власть алгоритмам, устранив человека из уравнения, либо впрячь ИИ в общую упряжку, сделав его нашим партнёром. Какой бы путь ни был избран, ясно одно: идти по нему нужно осознанно и всем миром. Нельзя допустить, чтобы решение приняли за нас несколько корпораций или государств – голос каждого общества должен быть учтён. Необходимо уже сейчас задуматься о правах и обязанностях всех участников нового цифрового мира – и людей, и умных машин.
Лично я надеюсь, что нам удастся избежать мрачного сценария, где большинство пассивно живёт на пособие в тени всесильного ИИ. Хочется верить в будущее, где ИИ служит каждому человеку, а не наоборот, и где достижения технологии разделяются справедливо. Для этого придётся постараться – договориться между странами, выписать «правила для ИИ», установить границы допустимого. Задача непростая, но необходимая. Как метко заметил известный учёный Джеффри Хинтон, один из «крёстных отцов» современного ИИ: искусственный интеллект может представлять для человечества угрозу, более неотложную, чем климатические изменения[15]. И при этом, добавляет он, «это касается каждого из нас, и нам всем нужно об этом думать»[16]. Мне кажется, лучше и не скажешь. Перед лицом такой переменчивой и мощной силы, как ИИ, мы – все люди на планете – должны задуматься и решить вместе, каким будет наш следующий шаг. В наших руках сделать так, чтобы разумные машины стали не господами, а союзниками, и чтобы новое будущее работало на благо всего человечества.
Источник цитат и данных:
[14] Reuters – более тысячи специалистов (включая Й. Бенжио, С. Рассела и др.) подписали открытое письмо с призывом приостановить развитие самых мощных ИИ для выработки мер безопасности.
[2] Slowing Down the Digital Escapist Movement - The Information