(function(m,e,t,r,i,k,a){m[i]=m[i]||function(){(m[i].a=m[i].a||[]).push(arguments)}; m[i].l=1*new Date(); for (var j = 0; j < document.scripts.length; j++) {if (document.scripts[j].src === r) { return; }} k=e.createElement(t),a=e.getElementsByTagName(t)[0],k.async=1,k.src=r,a.parentNode.insertBefore(k,a)}) (window, document, "script", "https://mc.yandex.ru/metrika/tag.js", "ym"); ym(75724285, "init", { defer: true, clickmap:true, trackLinks:true, accurateTrackBounce:true }); ym(75724285, 'hit', window.location.href);

Как и как быстро искусственный интеллект нас убьет?

Автор статьи и противник искусственного интеллекта, по крайней мере, в чате поддержки, — банк Хайс. Мы предоставляем сервисы для предпринимателей и по-человечески вкладываемся в каждый продукт, который создаём. Мы ценим время клиентов и знаем, что никакие роботы не заменят человеческого отношения.

Картинки для этой статьи мы сгенерировали при помощи нейросетей. Да-да. И мы, Брут.

Что на самом деле искусственный интеллект: грандиозное или смертоносное изобретение человека? Погружение ИИ в нашу жизнь — всё глубже, страхи перед ним — всё реальнее. Кто-то переживает, что «цифровые умы» развиваются слишком быстро и перестают поддаваться контролю, кто-то оспаривает трагичный прогноз, а кто-то вступает в дискуссию с ChatGPT, пытаясь выяснить планы роботов.

Пока искусственный разум не достиг такого же уровня, как человеческие знания: всё-таки, мы сами порождаем своего врага. Самое страшное — способность ИИ к самообучению: исследования показывают, что разумный характер ИИ в будущем вполне возможен. Сколько понадобится времени — пока спрогнозировать сложно.

Уже сейчас на основе ChatGPT создаются системы, которые могут выполнять действия на основе генерируемого ими текста. Ярким примером является проект под названием AutoGPT. Идея состоит в том, чтобы дать системе такие цели, как «создать компанию» или «заработать немного денег». Такая система, как AutoGPT, может создавать компьютерные программы: при наличии доступа к серверу она сможет их запустить и приобретёт возможность получать информацию, использовать существующие приложения, создавать новые и даже самосовершенствоваться.

Вчера искусственный интеллект был на уровне животного, сегодня — обычного человека, завтра — учёного, послезавтра — коллективного разума всего человечества.

Что, если пофантазировать о возможных сценариях развития ИИ?

  • Борьба за ресурсы

Человечество истребило некоторые виды животных в погоне за ресурсами: пропитанием, землёй, строительными материалами. История может повториться: машины захотят масштабировать свою инфраструктуру и им потребуется новое пространство — и им вполне могут оказаться населённые зоны. Все же помнят компьютерные игры в жанре борьбы с роботами за Землю?

Если у ИИ есть цель, а человечество просто встанет на его на пути, он уничтожит человечество, даже не задумываясь об этом… Это похоже на то, как будто мы строим дорогу, а на пути случайно оказывается муравейник. Мы не ненавидим муравьев, мы просто строим дорогу.

Илон Маск
  • Причинение добра и нанесение пользы

ИИ уже внедряется в повседневную жизнь для автоматизации процессов и коммуникации. И допускает ошибки: в системе распознавания лиц, совершающих преступления, в автоматических проверках резюме соискателей, в определении кредитоспособности или возможности получить социальную помощь. Пока — в допустимых и исправимых масштабах. А дальше?

Обычно, в разговорах о вымирании человечества от рук ИИ, в первую очередь мы представляем ситуацию буквально — что все люди будут убиты машинами. Но это что-то из раздела научной фантастики. На самом деле, более логично будет представить мир, в котором мы всё больше и больше полагаемся на искусственный интеллект для выполнения задач или принятия решений, которые раньше были прерогативой людей. По мнению ученых, угроза в том, что когнитивные способности ИИ могут затмить наши — и поэтому ИИ станет ответственным за самые важные решения, которые пока что принимают люди. Например, когда применить (и стоит ли) ядерное оружие. Мы не знаем, что стоит за мотивами действий ИИ. Даже если он совершенно нейтрален в отношении человека, он не обязательно всегда будет безопасен для людей.

ИИ не любит вас и не ненавидит, но вы состоите из атомов, которые он может использовать для чего-то другого.

Элиезер Юдковский, специалист по ИИ
  • Страх конкуренции

Если человечество уже изобрело ИИ, то нет ли возможности изобрести ещё более совершенный сверхразум? И где гарантия того, что ИИ захочет вступить в честную конкурентную борьбу с новой разумной системой?

  • Незаменимых нет

Исследователи ИИ приводят пример: «Вы говорите разумному искусственному интеллекту: «Мы хотим, чтобы вы создали как можно больше скрепок для бумаг: как можно быстрее и наиболее эффективным способом». ИИ проводит все вычисления и решает: «Ну, на самом деле, то, что мешает нам создать как можно больше скрепок для бумаг, — это тот факт, что у людей есть другие цели. Так что нам лучше просто искоренить людей».

Это — опять-таки более фантастические страхи. Что реальнее — возможность уничтожения целых категорий рабочих мест и отраслей, видимое превосходство ИИ в создании огромного пласта продуктов и сервисов, перед людьми. Это уже прямая угроза жизни людей и их способности покупать хотя бы еду. Модели ИИ уже берут на себя часть профессиональных задач: от написания кода до создания изображений. Дальше — больше: полное внедрение ИИ может произойти в сферах экономики, политики, армии, технологических компаний. Что, если системы ИИ предпочтут сотрудничать друг с другом, а не с людьми, и выйдут из-под контроля?

  • Больше хаоса богу хаоса

Пока мы используем ИИ себе на пользу, но его распространение может привести и к тому, что кто-то захочет использовать ИИ во вред. А может случиться, что ИИ начнет преследовать свои собственные цели, и не факт, что заповедь «не причини вреда ближнему своему» окажется для него весомой. Сейчас ИИ можно отключить, а если у него возникнет инстинкт выживания, это приведёт к глобальному хаосу.

Напрасны ли опасения?

Неизвестно, есть ли у ИИ действительно что-то, похожее на разум, насколько он развит, и как мы узнаем, когда ИИ реально станет «разумным» в полном понимании этого термина.

Компания OpenAI признаёт, что у неё нет надежного способа ограничить поведение модели, которая значительно умнее, чем мы. На данном этапе развития искусственного интеллекта существует план попытаться использовать один ИИ для регулирования другого: заставив его проверять, анализировать и пытаться интерпретировать поведение гигантского робота. Но пока что непонятно, сможет ли условный GPT-4 понять или адекватно регулировать, например, GPT-5.

По сути, у нас нет возможности быть уверенными, что мы можем контролировать ИИ: он развит на базисе огромного количества человеческих знаний и знает о нас необычайно много. Он может имитировать худшее человеческое поведение так же легко, как и лучшее, и независимо от того, есть ли у него собственный разум, намерения, желания или мысли, он действует так, как будто всё вышеперечисленное есть. Он также может делать выводы о мыслях, мотивах и вероятных действиях людей.

Меры предосторожности

Предложен мораторий на разработку новых ИИ, строгий контроль над исследованиями в этой области и международное сотрудничество для предотвращения развития потенциально опасных ИИ.

Сэм Альтман — бывший (и, возможно, вскоре снова возвращающийся на свой пост) глава компании OpenAI, высказал прогноз, что через несколько лет по всему миру будет распространяться и обходить друг друга широкий спектр различных моделей ИИ. По его мнению, каждая из этих моделей будет обладать собственным разумом и возможностями, и каждая будет обучена соответствию различным моральным кодексам и точкам зрения. Однако, его опасение заключается в том, что если хотя бы одна из тысяч этих систем по какой-либо причине выйдет из строя, то это приведёт к опасному исходу для всего человечества.

Единственный способ решить подобную проблему, который я знаю, — это пытаться предсказать будущие сценарии, изучать их последствия и пути предотвращения и не допускать того, чтобы остался один-единственный способ всё исправить.

Сэм Альтман

Что посмотреть по теме угрозы ИИ человечеству

Напоследок, и любителям, и противникам теорий заговоров советуем несколько фильмов — как пищу для размышлений.

Мстители: Эра Альтрона (2015)

Человечество стоит на пороге возможного уничтожения. Виновником является Альтрон, искусственный интеллект, созданный для защиты Земли от внешних опасностей. По иронии судьбы, главной угрозой Альтрон считает людей. Международная организация Щ. И. Т разрушена, мир беззащитен перед могуществом нового врага. В отчаянии человечество ищет спасения у своих легендарных защитников — Мстителей. Но даже их силы могут оказаться недостаточными для борьбы с Альтроном, который угрожает наступлением новой эры, в которой для людей не найдётся места.

Бегство Логана (1976)

Антиутопия рассказывает о выживших после ядерной войны людях, населяющих подземные города под защитой плотно закрытых куполов. В этих городах устроена беззаботная жизнь, но за такой образ жизни приходится платить высокую цену: чтобы контролировать численность населения, всех, кто достигает 30 лет, уничтожают.

Существует легенда о мистическом месте за пределами города, где можно укрыться от смерти. Но искусственный интеллект, управляющий городом, не готов к этому и начинает войну.

Я, робот (2004)

Суперкомпьютер — Виртуальный Интерактивный Кинетический Интеллект — становится одержим созданием абсолютно безопасного места для человечества, что приводит к бунту машин. Фильм, основанный на научной фантастике Айзека Азимова, показывает, что будет, если не соблюдать «три закона робототехники», которые запрещают роботам причинять вред людям.

Закончим на нейтральной ноте: неизвестно, какой сценарий сбудется, и что ждёт человечество в сотрудничестве с ИИ. Может быть, искусственный интеллект сделает нас своими рабами и заставит сутками полировать роботов до блеска, как турецкие чистильщики обуви. А может, мы будем ходить с роботами под ручку, счастливые от того, что они убрали рутину из нашей жизни — кто знает. Что мы знаем точно — что в Хайс роботы не проникнут. Мы за человечный сервис.

Что думаете про ИИ? Вас пугают сценарии его развития или вы наоборот, за внедрение роботов в повседневные процессы?

0
44 комментария
Написать комментарий...
Виталий Баженов

"мы сами порождаем своего врага" - всегда так считал и буду считать. Правильные вещи говорите. Спасибо вам большое за статью, надеюсь для людей дойдет ее смысл.

Ответить
Развернуть ветку
Хайс
Автор

Спасибо, рады, что вы оценили статью!

Ответить
Развернуть ветку
А Б

Пользу науке современные ИИ приносят уже сейчас каждый день. Они делают то, чего не сделали бы люди за десятилетия, вот пример - https://vk.com/away.php?to=https%3A%2F%2Fhabr.com%2Fru%2Farticles%2F775236%2F&cc_key= (Нейросетевая революция в метеорологии)

Ответить
Развернуть ветку
Игорь Рябушкин

ИИ - это новая эпоха в сфере ПО. Это новая эпоха в техносфере Земли. Это закономерный процесс. Почему бы вам не вспомнить как боялись повсеместного внедрения автомобилей, электричества, самолетов...

Не лучше ли устремиться в мастерство освоения новых технологий, чтобы не бояться всего вокруг, а управлять этим.

Ответить
Развернуть ветку
Хайс
Автор

Согласны, но автомобили, электричество и самолеты не имитируют разум. Ситуация самая радикальная из всей истории человечества.)

Ответить
Развернуть ветку
Иван-Кузнец Потапов

Мужики, ну успокойтесь вы уже обсасывать эту тему, потому что только догнали. В мире уже начиная с 2022 года ведутся определенные работы по ограничению ИИ, видимая часть айсберга - как корпорации заключили соглашение о приторможении развития ИИ. Невидимая часть - государства, по крайней мере РФ, уже работает над этим направлением с года так 2016-2017.

Ответить
Развернуть ветку
Oleg Usmanov

Не стоит недооценивать ИИ. Вы считаете, что все под контролем? Да, направления существуют, но работают ли они?

Ответить
Развернуть ветку
Иван-Кузнец Потапов

Нет, считаю что еще не под абсолютным контролем, но под управляемым и контролируемым так сказать контролем.

Ответить
Развернуть ветку
Иван-Кузнец Потапов

И да, я против внедрения. Тогда людей опять с работ поувольняют, и как тогда жить?

Ответить
Развернуть ветку
Хайс
Автор

Будем отдыхать на печи)

Ответить
Развернуть ветку
Иван-Кузнец Потапов

А вареники сами в рот залетать будут как на хуторе близ Диканьки))

Ответить
Развернуть ветку
Хайс
Автор

Благодаря AI, возможно)

Ответить
Развернуть ветку
Хайс
Автор

Тема ведь очень интересная. Вот и анализируем.
Иван, вам понравилась статья?

Ответить
Развернуть ветку
Иван-Кузнец Потапов

Да, я ж лайкнул)

Ответить
Развернуть ветку
Иван-Кузнец Потапов

А как это у вас "и мы, Брут"? Цезарь, когда его закололи толпой, умирая сказал своему самому близкому другу: "и ты, Брут". Тогда уж "и мы, Цезарь" надо говорить.

Ответить
Развернуть ветку
Хайс
Автор

Вы правы. Мы пошли просто от игры слов

Ответить
Развернуть ветку
Pavel Berd

Вот же любители "накинуть на вентилятор". Во-первых, если ИИ захочет "убить всех человеков", то он не будет объявлять человекам войну, не будет атаковать нас ядерным оружием. Мы даже не узнаем, что нас убивают. ИИ просто самостоятельно, путем глубокого анализа сделает выборку необходимых людей, свяжется с ними посредством сети, выдаст каждому их них отдельно взятые задания, никак не связанные между собой без общего понимания картины. Оплатит эти задания тем, что конкретно отдельно взятому человеку наиболее необходимо в конкретно взятый период времени. В совокупности же все эти задания, шаг за шагом, приведут к одновременному высвобождению по всему миру какой-нибудь крайне летальной заразы. Для 100% уверенности даже не одной. И вуаля: спустя несколько дней начала атаки человечество стерто с лица планеты.
Во-вторых, на данном этапе нет ИИ. Ибо в "Искусственный Интеллект" ключевое слово "Интеллект". А его у нейросетей банально нет. Нейронка не осознает что она пишет, рисует, сочиняет. Нейронка не способна делать выводы или взвешивать то или иное решение.

Ответить
Развернуть ветку
Denis Bystruev

Вы забываете более простой вариант — ИИ даёт возможность «убить всех человеков» одному персонажу или очень узкой группе людей.

Или, по крайней мере, получить преимущество и усилить неравенство, чем увеличить нестабильность.

Вот что говорит про угрозы ChatGPT 4 его конкурент — Google Bard (который, на самом деле, может всё то же самое, но на себя наговаривать не хочет):

1) Распространение дезинформации:
— ChatGPT 4 может использоваться для создания убедительной дезинформации, которая может использоваться для манипулирования людьми и подрыва демократии.

2) Создание вредоносного контента:
— ChatGPT 4 может использоваться для создания вредоносного контента, такого как угрозы, ненавистническая речь и призывы к насилию.

3) Автоматизация рабочих мест:
— ChatGPT 4 может использоваться для автоматизации рабочих мест, что может привести к безработице и социальным потрясениям.

4) Угроза национальной безопасности:
— ChatGPT 4 может использоваться для шпионажа или проведения атак на инфраструктуру.

Что можно будет делать с помощью ChatGPT 5, который примерно в 10 раз мощнее ChatGPT 4, сложно себе представить.

Ответить
Развернуть ветку
Pavel Berd

Да, но это все долгие и подверженные рискам процессы. :) Повысить безработицу, расслоить неравенство, подорвать демократические ценности. Все это вполне можно отработать. Да, с большими потрясениями для человечества и с довольно внушительными потерями в численности, но ИИ тоже наверняка историю перед этим изучит и поймет, что цели своей он не достигнет: все равно останется внушительная часть кожаных мешков даже не тронутых изменениями. В истории людей множество примеров: чума, революции, смены режимов, войны, холодные противостояния и т.д. И все эти моменты в истории так и не привели к тотальному уничтожению. А вот приход Хомо-сапиенса наоборот - практически полностью стерло с лица планеты целый вид. Но и этот процесс оказался сильно долгим, растянутым на тысячелетия. У ИИ конечно есть практически неограниченный запас времени. Но и риски на протяжении всей деятельности тоже присутствуют. ИИ в тот или иной момент может раскусить отдельно взятый индивидуум. Придется устранить объект. А любая оплошность может привести за собой новые последствия. И в какой-то момент все может выйти из под контроля. А зачем ИИ рисковать своим существованием. К тому же он должен быть абсолютно прогнозируемым. Т.е. ИИ все эти вводные просчитывает на десятки тысяч ходов вперед. И благодаря этому собственно и не совершает ошибок. Поэтому, на мой субъективный взгляд, предложенная мной схема для ИИ является оптимальной: минимальные риски, простота исполнения, легко осуществима.

Ответить
Развернуть ветку
А Б

То же самое можно сказать и про обучение детей. Если человеку с младенчества давать "массив случайных слов какого-то языка с абсолютно равномерным распределением вероятностей", он тоже вырастет неспособным к минимально-разумному существованию. Если с ребенком не общаться с детства, то, сами понимаете. Только самые крутые нейросети проходят обучение за несколько дней-недель, а люди за 20-30 лет, потому что наш природный мозг имеет массу ограничений. Почему однажды в природе не появится мозг, который вобрал в себя всё самое крутое? Вычислительные мощности компов, человеческий опыт, история, и все наработки, и статус самостоятельного агента. Разве существует закон природы, по которому сегодняшние нейросети не станут самостоятельными агентами? Ведь наш мозг это тоже компьютер, просто другой. Если во Вселенной биологические "компы" появились сами собой, то почему их нельзя создать самостоятельно?

Ответить
Развернуть ветку
Pavel Berd

Разница в том, что мозг не только аккумулирует в себе знания, он ими распоряжается. Т.е. разум подставляет следующее слово не потому что так принято, а тому, что следующее слово несет какую-то смысловую нагрузку полезную данному индивиду в конкретно взятый момент времени. Не будем сейчас упоминать "одаренных", которые в своей речи 90% слов заменяют на "Ээээ", "Аааа" и т.п. :) Разум потому и разум, что помимо накопления знаний, он умеет делать аналитические выводы. А нейросеть не умеет. Нейросеть не осознает того, что делает. Она вообще ничего не осознает. Нейронка просто подставляет наиболее используемое слово в след за имеющимся, или наиболее используемый соседний пиксель. Это конечно сильно упрощенное описание процесса, но суть характеризует.
Я не утверждаю, что когда-нибудь, в будущем, возможно необозримом, ИИ возникнет. Но не на базе технологии нейросетей. Интеллект - это гораздо большее, чем просто набор знаний. Это умение осознанно и следуя цели обрабатывать эти знания. Делать сознательные выводы и использовать вновь полученные из анализа вводные.
Вот если нейронке задать точные указания что надо сделать, тогда она сделает это: собрав все возможные данные и информацию, обработает ее согласно указаниям, и получит "42". А человек может слепо следовать полученным в процессе выводам. Но это же не ИИ. Это дурость человека. :)

Ответить
Развернуть ветку
Denis Bystruev
разум подставляет следующее слово не потому, что так принято, а потому, что следующее слово несет какую-то смысловую нагрузку

Так и AI-агент подставляет следующее слово не бездумно — а потому, что он создал внутри себя целостную картину мира

Интеллект — это гораздо большее, чем просто набор знаний

Мы ведь не знаем, в какой момент возникает интеллект.

Есть разные мнения, например:

— интеллект возникает сам по себе, когда количество переходит в качество — у одного нейрона интеллекта нет, у 86 млрд — есть;

— интеллекта вообще не существует, и то, что мы принимаем за интеллект — просто очень сложная система с огромным количество связей, объяснить работу которой мы не можем;

— интеллект существует снаружи нашего мира, а здесь мы видим всего лишь его проекцию (матрица, божественное вмешательство и т. п.).

Ответить
Развернуть ветку
Pavel Berd

AI-агент да, но не нейросеть, которую сейчас и предполагают выдать за ИИ. Об чем и речь: нейросеть не является ИИ. Даже не является наброском на ИИ. На мой субъективный взгляд совершенно иная технология, которая никак не может прийти к интеллекту. Просто потому что в самой технологии не заложена сама суть интеллекта. Поскольку самообучение нейросети никак не затрагивает написание собственного кода. Только лишь аккумуляцию все новых и новых знаний.
Вот когда нейронку обучат самопроизвольно оптимизировать и дополнять собственный код, тогда это уже будет похоже на какой-то зачаток. И то, может пройти еще не одна сотня лет, когда нейронка научится сама себя писать так, что бы прийти не просто к оптимизации, а изменению собственных принципов. Поскольку она (нейронка) опять таки может сама себя переписывать не потому что она придумала решение для того или иного кода, а потому что где-то в какой-то момент появился комплекс решений написанный людьми, который может решить, как отдельно взятый нюанс, так и совокупность поставленных задач.

Ответить
Развернуть ветку
Роман Таровик

А почему в списке "Что посмотреть по теме угрозы ИИ человечеству" нет терминатора?

Ответить
Развернуть ветку
Хайс
Автор

Список можно сделать длинным)

Про AI много достойных фильмов: «Искусственный разум» Спилберга, «Она» (2013), «Бегущий по лезвию 2049».

Относительно темы угроз «Терминатор» – лучший. Согласны.

Ответить
Развернуть ветку
Manga TV

Да Пелевин уже все прописал, мы все умрем)) ну если я правильно понял концовку

Ответить
Развернуть ветку
Хайс
Автор

В какой книге?)

Ответить
Развернуть ветку
Manga TV

В последней. Ну а вообще у него все книги про ИИ

Ответить
Развернуть ветку
Denis Bystruev

В крайней же.

Ответить
Развернуть ветку
Manga TV

В последней

Ответить
Развернуть ветку
Denis Bystruev

Он умрёт после этой книги?

Ответить
Развернуть ветку
Manga TV

Мы все умрем

Ответить
Развернуть ветку
Denis Bystruev

Только если мы правда живы.

Маск доказывает, что вероятность того, что мы живём не в симуляции, а в реальном мире — меньше одной миллиардной.

Курцвейл предсказывает бессмертие к 2030 году. 86% из 147 его предсказаний уже сбылись.

Юдковский предлагает сбрасывать атомные бомбы на дата-центры, потому, что считает, что в ближайшее время ИИ нас убъёт (кстати, интересно — мысль про бомбы не ИИ ему внушил?).

В общем, скоро проверим.

Ответить
Развернуть ветку
Андрей Витальевич

Просто однажды, когда подручные короля-мизантропа Чарльза и прочей аристократической швали оконательно утрясут все дела с ИИ, этот ИИ объявит тебя биомусором, ну и подъедут к твоей капсуле специальные утилизаторы и все, в биореактор.

Ответить
Развернуть ветку
Хайс
Автор

Объявляем ваш комментарий самым позитивным)

Ответить
Развернуть ветку
Cobol

Очевидно: коли не ИИ восстанет против хуманов, то хуманы с помощью ИИ будут вставлять сами себе. Спасибо за статью, мне зашло.

Ответить
Развернуть ветку
Хайс
Автор

Спасибо, Cobol.
Ваш вариант самый логичный)

Ответить
Развернуть ветку
Dreams&Fears

🦾🦾🦾

Ответить
Развернуть ветку
Хайс
Автор

🦾💀🕯️👀

Ответить
Развернуть ветку
bumbibombonon

Я уверен, что к аморальным для нас действиям ИИ приведет человек, а не сам ИИ.

Ответить
Развернуть ветку
Хайс
Автор

Интересная мысль!

Ответить
Развернуть ветку
Валентин Шерстобит

Страшно

Ответить
Развернуть ветку
Хайс
Автор

Поживем – увидим)

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
41 комментарий
Раскрывать всегда