Публичные разговоры об ИИ в настоящее время пронизаны истерическим страхом и паранойей. Мы слышим заявления о том, что ИИ убьет нас всех, разрушит наше общество, лишит всех наших рабочих мест, вызовет разрушительное неравенство и позволит плохим людям совершать ужасные поступки. Так ли это?
Эта статья - краткий пересказ книги Марка Андриссена "Почему ИИ спасет мир"
Исторически сложилось так, что каждая новая технология - от электрического освещения до автомобилей, радио и Интернета, вызывала моральную панику – социальную заразу , которая убеждает людей в том, что новая технология разрушит мир или общество, или и то, и другое.
Но моральная паника по своей природе иррациональна – она берет то, что может быть законным беспокойством, и раздувает его до уровня истерии, которая, по иронии судьбы, затрудняет борьбу с действительно серьезными проблемами.
Эта моральная паника уже используется в качестве мотивирующей силы различными субъектами, требующими политических действий – новых ограничений, правил и законов в отношении ИИ.
Но стоит ли бояться сейчас и насколько? Какие риски сейчас существуют?
Риск ИИ №1: ИИ убьет нас всех
Страх того, что технологии, созданные нами самими, восстанут и уничтожат нас, глубоко закодирован в нашей культуре. Греки выразили этот страх в мифе о Прометее – Прометей принес человеку разрушительную силу огня за что боги приговорили Прометея к вечным пыткам.
Позже Мэри Шелли дала нам, современникам, собственную версию этого мифа в своем романе « Франкенштейн, или Современный Прометей» , в котором мы разрабатываем технологию вечной жизни, которая затем восстает и стремится нас уничтожить.
Но точно так же, как огонь был основой современной цивилизации, поскольку использовался для согрева и безопасности в холодном и враждебном мире, эта мифология игнорирует потенциал большинства новых технологий, и разжигает деструктивные эмоции, а не аргументированный анализ.
Идея о том, что ИИ решит буквально убить человечество, является ошибкой категории. ИИ — это не живое существо, которое в течение миллиардов лет эволюции было подготовлено к участию в битве за выживание как наиболее приспособленные животные или человек.
ИИ - это математика – код – компьютеры, построенные людьми, принадлежащие людям, используемые людьми, контролируемые людьми. Идея о том, что в какой-то момент он разовьет собственный разум и решит, что у него есть мотивы, которые заставят его попытаться убить нас, является суеверием.
ИИ ничего не "хочет", у него нет целей , он не "хочет" вас убивать , потому что он не живой . ИИ — это машина, он не оживет больше, чем ваш тостер.
Риск ИИ №2: разрушит ли ИИ наше общество?
Краткая версия: если роботы-убийцы нас не уничтожат, это сделают разжигание с его помощью ненависти и дезинформация.
Подсказкой о природе заявления о социальных рисках ИИ является его собственный термин «alightment ИИ» (центровка, регулировка, согласование). Согласование с чем? С человеческими ценностями. Чьими человеческие ценности? Вот здесь все становится сложнее.
Социальные сети в течение многих лет находились под огромным давлением со стороны правительств и активистов с требованием запретить, ограничить, подвергнуть цензуре и иным образом подавить широкий спектр контента. И те же опасения по поводу «языка ненависти» (и его математического аналога, «алгоритмической предвзятости») и «дезинформации» напрямую переносятся из контекста социальных сетей на новый рубеж «выравнивания ИИ».
Его сторонники заявляют, что разумно спроектировать генерируемые ИИ слова и мысли, которые приносят пользу обществу, и запретить генерируемые ИИ слова и мысли, которые вредны для общества.
Оппоненты заявляют, что полиция мыслей высокомерна и самонадеянна – и часто откровенно преступна – и фактически стремится стать новым видом диктатуры, сошедшей прямо со страниц « 1984» Джорджа Оруэлла .
Так что этот риск следует рассматривать в более широком контексте развития общества.
Риск ИИ №3: заберет ли ИИ все наши рабочие места?
Страх потерять работу из-за механизации, автоматизации, компьютеризации или искусственного интеллекта был повторяющейся паникой на протяжении сотен лет, с момента появления таких машин, как механические ткацкие станки .
Несмотря на то, что каждая новая крупная технология на протяжении всей истории приводила к увеличению количества рабочих мест с более высокой заработной платой, каждая волна этой паники сопровождается заявлениями о том, что «на этот раз все по-другому» — это время, когда это наконец произойдет, это технология, которая, наконец, произойдет. нанести удар молотом по человеческому труду. И тем не менее, этого никогда не происходит.
На самом деле ИИ, если ему позволить развиваться и распространяться по всей экономике, может вызвать самый драматичный и устойчивый экономический бум всех времен с соответствующим рекордным ростом рабочих мест и заработной платы – полная противоположность страху .
Технологии позволяют людям быть более продуктивными. Это приводит к падению цен на существующие товары и услуги и росту заработной платы, что, в свою очередь, вызывает экономический рост и рост рабочих мест, мотивируя создание новых рабочих мест и новых отраслей.
Если рыночной экономике позволить нормально функционировать и если технологиям будет позволено свободно внедряться, это будет бесконечный цикл роста, который никогда не закончится. Ибо, как заметил Милтон Фридман, «человеческие желания и потребности безграничны» — мы всегда хотим большего, чем имеем.
Риск ИИ № 4. Приведет ли ИИ к серьезному неравенству?
Недостаток этой теории заключается в том, что владельцу любой технологии неинтересно хранить ее при себе – на самом деле, наоборот, в ваших интересах продать ее как можно большему количеству клиентов.
Самый большой в мире рынок для любого продукта — это весь мир, все 8 миллиардов из нас. И поэтому в действительности каждая новая технология – даже та, которая начинается с продажи крупным компаниям или богатым потребителям – быстро распространяется, пока не оказывается в руках максимально возможного массового рынка, в конечном итоге, каждого на планете.
Риск ИИ №5: приведет ли ИИ к тому, что плохие люди будут совершать плохие поступки?
Любую технологию можно использовать как во благо, так и во зло. А ИИ, вне всякого сомнения, облегчит преступникам, террористам и враждебным правительствам совершать плохие поступки.
Есть два способа снизить риск того, что плохие люди будут совершать плохие поступки с помощью ИИ
Во-первых, у нас есть законы, криминализирующие большинство плохих поступков, которые кто-либо собирается сделать с ИИ. Взломать Пентагон? Это преступление. Украсть деньги из банка? Это преступление. Создать биологическое оружие? Это преступление. Совершить террористический акт? Это преступление. Мы должны сосредоточиться на предотвращении этих преступлений, когда мы можем, и на их судебном преследовании, когда мы не можем.
Во-вторых, давайте приложим большие усилия для использования ИИ в добрых, законных и оборонительных целях. Давайте задействуем ИИ в киберзащите, в биологической защите, в охоте на террористов и во всем остальном, что мы делаем, чтобы обеспечить безопасность себя, наших сообществ и нашей нации.
Заключение
Основной вывод социальных наук на протяжении многих десятилетий и тысяч исследований заключается в том, что человеческий интеллект улучшает очень широкий спектр жизненных результатов.
Умные люди имеют лучшие результаты почти во всех сферах деятельности:
успеваемость, производительность труда, профессиональный статус, доход, творчество, физическое здоровье, долголетие, приобретение новых навыков, управление сложными задачами, лидерство, предпринимательский успех, разрешение конфликтов, понимание прочитанного, финансовые навыки. принятие решений, понимание точек зрения других, творчество, результаты воспитания детей и удовлетворенность жизнью.
Уффф..., кажется все упомянул ..
ИИ, — это возможность глубоко расширить человеческий интеллект, чтобы сделать все результаты работы интеллекта — от создания новых лекарств до способов решения проблемы изменения климата и технологий достижения звезд — намного, намного лучше. .
Искусственный интеллект, возможно, является самым важным и лучшим из того, что когда-либо создавала наша цивилизация, определенно наравне с электричеством и микрочипами, а, возможно, и превосходя их.
Благодаря ИИ мы должны жить в гораздо лучшем мире, и теперь мы можем это сделать.
#искусственныйинтеллект #ии #ai #технологии #будущее #общество #экономика #риски #моральнаяпаника #МаркАндриссен #ИИспасетмир
Ну да, об этом и речь(