Как и как быстро искусственный интеллект нас убьет?

Автор статьи и противник искусственного интеллекта, по крайней мере, в чате поддержки, — банк Хайс. Мы предоставляем сервисы для предпринимателей и по-человечески вкладываемся в каждый продукт, который создаём. Мы ценим время клиентов и знаем, что никакие роботы не заменят человеческого отношения.

Что на самом деле искусственный интеллект: грандиозное или смертоносное изобретение человека? Погружение ИИ в нашу жизнь — всё глубже, страхи перед ним — всё реальнее. Кто-то переживает, что «цифровые умы» развиваются слишком быстро и перестают поддаваться контролю, кто-то оспаривает трагичный прогноз, а кто-то вступает в дискуссию с ChatGPT, пытаясь выяснить планы роботов.

Пока искусственный разум не достиг такого же уровня, как человеческие знания: всё-таки, мы сами порождаем своего врага. Самое страшное — способность ИИ к самообучению: исследования показывают, что разумный характер ИИ в будущем вполне возможен. Сколько понадобится времени — пока спрогнозировать сложно.

Уже сейчас на основе ChatGPT создаются системы, которые могут выполнять действия на основе генерируемого ими текста. Ярким примером является проект под названием AutoGPT. Идея состоит в том, чтобы дать системе такие цели, как «создать компанию» или «заработать немного денег». Такая система, как AutoGPT, может создавать компьютерные программы: при наличии доступа к серверу она сможет их запустить и приобретёт возможность получать информацию, использовать существующие приложения, создавать новые и даже самосовершенствоваться.

Вчера искусственный интеллект был на уровне животного, сегодня — обычного человека, завтра — учёного, послезавтра — коллективного разума всего человечества.

Человечество истребило некоторые виды животных в погоне за ресурсами: пропитанием, землёй, строительными материалами. История может повториться: машины захотят масштабировать свою инфраструктуру и им потребуется новое пространство — и им вполне могут оказаться населённые зоны. Все же помнят компьютерные игры в жанре борьбы с роботами за Землю?

ИИ уже внедряется в повседневную жизнь для автоматизации процессов и коммуникации. И допускает ошибки: в системе распознавания лиц, совершающих преступления, в автоматических проверках резюме соискателей, в определении кредитоспособности или возможности получить социальную помощь. Пока — в допустимых и исправимых масштабах. А дальше?

Обычно, в разговорах о вымирании человечества от рук ИИ, в первую очередь мы представляем ситуацию буквально — что все люди будут убиты машинами. Но это что-то из раздела научной фантастики. На самом деле, более логично будет представить мир, в котором мы всё больше и больше полагаемся на искусственный интеллект для выполнения задач или принятия решений, которые раньше были прерогативой людей. По мнению ученых, угроза в том, что когнитивные способности ИИ могут затмить наши — и поэтому ИИ станет ответственным за самые важные решения, которые пока что принимают люди. Например, когда применить (и стоит ли) ядерное оружие. Мы не знаем, что стоит за мотивами действий ИИ. Даже если он совершенно нейтрален в отношении человека, он не обязательно всегда будет безопасен для людей.

Если человечество уже изобрело ИИ, то нет ли возможности изобрести ещё более совершенный сверхразум? И где гарантия того, что ИИ захочет вступить в честную конкурентную борьбу с новой разумной системой?

Исследователи ИИ приводят пример: «Вы говорите разумному искусственному интеллекту: «Мы хотим, чтобы вы создали как можно больше скрепок для бумаг: как можно быстрее и наиболее эффективным способом». ИИ проводит все вычисления и решает: «Ну, на самом деле, то, что мешает нам создать как можно больше скрепок для бумаг, — это тот факт, что у людей есть другие цели. Так что нам лучше просто искоренить людей».

Это — опять-таки более фантастические страхи. Что реальнее — возможность уничтожения целых категорий рабочих мест и отраслей, видимое превосходство ИИ в создании огромного пласта продуктов и сервисов, перед людьми. Это уже прямая угроза жизни людей и их способности покупать хотя бы еду. Модели ИИ уже берут на себя часть профессиональных задач: от написания кода до создания изображений. Дальше — больше: полное внедрение ИИ может произойти в сферах экономики, политики, армии, технологических компаний. Что, если системы ИИ предпочтут сотрудничать друг с другом, а не с людьми, и выйдут из-под контроля?

Пока мы используем ИИ себе на пользу, но его распространение может привести и к тому, что кто-то захочет использовать ИИ во вред. А может случиться, что ИИ начнет преследовать свои собственные цели, и не факт, что заповедь «не причини вреда ближнему своему» окажется для него весомой. Сейчас ИИ можно отключить, а если у него возникнет инстинкт выживания, это приведёт к глобальному хаосу.

Неизвестно, есть ли у ИИ действительно что-то, похожее на разум, насколько он развит, и как мы узнаем, когда ИИ реально станет «разумным» в полном понимании этого термина.

Компания OpenAI признаёт, что у неё нет надежного способа ограничить поведение модели, которая значительно умнее, чем мы. На данном этапе развития искусственного интеллекта существует план попытаться использовать один ИИ для регулирования другого: заставив его проверять, анализировать и пытаться интерпретировать поведение гигантского робота. Но пока что непонятно, сможет ли условный GPT-4 понять или адекватно регулировать, например, GPT-5.

По сути, у нас нет возможности быть уверенными, что мы можем контролировать ИИ: он развит на базисе огромного количества человеческих знаний и знает о нас необычайно много. Он может имитировать худшее человеческое поведение так же легко, как и лучшее, и независимо от того, есть ли у него собственный разум, намерения, желания или мысли, он действует так, как будто всё вышеперечисленное есть. Он также может делать выводы о мыслях, мотивах и вероятных действиях людей.

Предложен мораторий на разработку новых ИИ, строгий контроль над исследованиями в этой области и международное сотрудничество для предотвращения развития потенциально опасных ИИ.

Сэм Альтман — бывший (и, возможно, вскоре снова возвращающийся на свой пост) глава компании OpenAI, высказал прогноз, что через несколько лет по всему миру будет распространяться и обходить друг друга широкий спектр различных моделей ИИ. По его мнению, каждая из этих моделей будет обладать собственным разумом и возможностями, и каждая будет обучена соответствию различным моральным кодексам и точкам зрения. Однако, его опасение заключается в том, что если хотя бы одна из тысяч этих систем по какой-либо причине выйдет из строя, то это приведёт к опасному исходу для всего человечества.

Напоследок, и любителям, и противникам теорий заговоров советуем несколько фильмов — как пищу для размышлений.

Мстители: Эра Альтрона (2015)

Человечество стоит на пороге возможного уничтожения. Виновником является Альтрон, искусственный интеллект, созданный для защиты Земли от внешних опасностей. По иронии судьбы, главной угрозой Альтрон считает людей. Международная организация Щ. И. Т разрушена, мир беззащитен перед могуществом нового врага. В отчаянии человечество ищет спасения у своих легендарных защитников — Мстителей. Но даже их силы могут оказаться недостаточными для борьбы с Альтроном, который угрожает наступлением новой эры, в которой для людей не найдётся места.

Бегство Логана (1976)

Антиутопия рассказывает о выживших после ядерной войны людях, населяющих подземные города под защитой плотно закрытых куполов. В этих городах устроена беззаботная жизнь, но за такой образ жизни приходится платить высокую цену: чтобы контролировать численность населения, всех, кто достигает 30 лет, уничтожают.

Существует легенда о мистическом месте за пределами города, где можно укрыться от смерти. Но искусственный интеллект, управляющий городом, не готов к этому и начинает войну.

Я, робот (2004)

Суперкомпьютер — Виртуальный Интерактивный Кинетический Интеллект — становится одержим созданием абсолютно безопасного места для человечества, что приводит к бунту машин. Фильм, основанный на научной фантастике Айзека Азимова, показывает, что будет, если не соблюдать «три закона робототехники», которые запрещают роботам причинять вред людям.

Закончим на нейтральной ноте: неизвестно, какой сценарий сбудется, и что ждёт человечество в сотрудничестве с ИИ. Может быть, искусственный интеллект сделает нас своими рабами и заставит сутками полировать роботов до блеска, как турецкие чистильщики обуви. А может, мы будем ходить с роботами под ручку, счастливые от того, что они убрали рутину из нашей жизни — кто знает. Что мы знаем точно — что в Хайс роботы не проникнут. Мы за человечный сервис.

Что думаете про ИИ? Вас пугают сценарии его развития или вы наоборот, за внедрение роботов в повседневные процессы?