«Человек станет частью некоего глобального алгоритма» Статьи редакции

Основные идеи из книги Юваля Ноя Харари «Человек Божественный: Краткая история завтрашнего дня».

Выжимка от команды сервиса Smartreading.

Юваль Ной Харари

Введение

Название книги Ювала Харари — Homo Deus — говорит само за себя. В ней Харари, выпускник Оксфордского университета и профессор истории Еврейского университета в Иерусалиме, остроумно и увлекательно исследует достижения человеческой цивилизации и объясняет читателю, как в течение ближайшего столетия может произойти трансформация человека разумного в человека «божественного».

Успехи генной инженерии, медицины, биотехнологий и кибернетики, по мнению Харари, приведут в недалёком будущем к кардинальному изменению структуры экономики, политики и самой роли человека в мире.

В частности, Харари предполагает, что появится целый класс «лишних» людей, что демократия и свободный рынок, какими мы знаем их сейчас, прекратят свое существование, а человек станет частью некоего глобального алгоритма. Харари не исключает вероятности того, что новый «человек божественный» будет обращаться со всеми остальными людьми примерно так же, как мы обращаемся с животными.

Чтобы оправдать эти выводы, автор исследует сущность человека и выясняет, есть ли у человека душа, откуда возникают наши ощущения и эмоции, как соотносится интеллект и сознание и почему мы с таким удовольствием доверяем интернету нашу личную информацию.

Харари делится с читателем своими мыслями о том, как гуманизм стал преобладающей мировой религией и почему претворение в жизнь гуманистических идеалов может привести к исчезновению либеральной демократии.

Homo Deus затягивает, вызывает восхищение, провоцирует, ставит в тупик и стимулирует дискуссию. Харари удалось создать фундаментальный труд на стыке истории, философии, политики, теории эволюции, психологии и нейробиологии, который, переплетая и анализируя известные и неизвестные факты, подводит читателя к новым и неожиданным выводам. Книга Харари читается легко и будет интересна всем, кому любопытно заглянуть в завтрашний день.

О бессмертии

На протяжении тысячелетий главными проклятиями человека были голод, эпидемии и войны. Сейчас человечеству удалось взять эти беды под контроль.

Сократив смертность от голода, заболеваний и насилия, человечество будет теперь стремиться преодолеть старость и даже саму смерть. Уменьшив страдания в мире, мы будем стараться сделать человека счастливым. Преодолев необходимость борьбы за выживание, человек разумный захочет усовершенствоваться в человека божественного.

Впервые в истории больше людей умирают от старости или переедания, чем от голода или от инфекций, больше людей кончают жизнь самоубийством, чем оказываются убитыми на войне, террористами и преступниками вместе взятыми.

Угроза терроризма тоже, по мнению Харари, сильно преувеличена. В 2010 году от ожирения и связанных с ним заболеваний умерли три миллиона человек, в то время как от рук террористов во всём мире погибло 7697 человек, большинство из них — в развивающихся странах. Для среднего американца или европейца Coca-Cola представляет большую опасность, чем Аль-Каида.

Всеобщая декларация ООН о правах человека провозглашает право на жизнь фундаментальной ценностью. Поскольку смерть явно нарушает это право, то смерть является преступлением против человечности, и ей должна быть объявлена война.

На протяжении истории человеческая жизнь никогда особенно не ценилась. Поскольку христианство, ислам и индуизм дружно настаивали на том, что смысл нашего существования зависит от нашей судьбы после смерти, то и смерть рассматривалась как естественный и позитивный элемент существования.

В глазах современного человека смерть лишилась своего мистического значения и превратилась в обычный технический сбой, с которым можно и нужно справиться так же, как с любой другой технической проблемой.

Конечно, человек не обретёт бессмертие в ближайшие годы, однако головокружительные достижения в области генной инженерии, регенеративной медицины и нанотехнологий позволяют надеяться на значительное продление жизни. Харари предлагает задуматься, что произойдёт, например, с институтом брака или с рынком труда, если средняя продолжительность жизни достигнет 150 лет.

О счастье

Кому нужна бесконечная жизнь, если она несчастливая? На протяжении 19 и 20 веков индивидуальное благополучие никого сильно не интересовало. Здравоохранение и система социального обеспечения были нужны не для счастья, а для укрепления наций, которые нуждались в крепких солдатах, рабочих и здоровых женщинах для воспроизводства тех же солдат и рабочих.

В наши дни стремление к счастью обрело гораздо больший смысл, и многие политики и экономисты предлагают дополнить понятие ВВП понятием «валовое внутреннее счастье». Однако счастье — явление иллюзорное и труднодостижимое. Покончить со страданием проще, чем ощутить счастье. Кусок хлеба был источником радости для средневекового крестьянина. А как принести счастье скучающему и хорошо зарабатывающему банкиру?

Со времен Эпикура было известно, что деньги, слава и удовольствие счастья не приносят. В Перу, Гватемале и Албании, странах бедных и политически нестабильных, примерно один человек из 100 тысяч заканчивает жизнь самоубийством. В богатых и благополучных странах, таких как Швейцария, Франция, Япония и Новая Зеландия, 25 человек из 100 тысяч уходят из жизни добровольно.

Счастье обладает двумя составляющими: психологической и биохимической. На психологическом уровне мы ощущаем счастье, когда наши ожидания соответствуют реальности. Проблема, однако, в том, что рост наших ожиданий всегда опережает улучшение объективных условий.

Биология нам говорит, что и наши ожидания, и восприятие счастья определяются биохимией нашего мозга, а никак не нашим экономическим или социальным положением. Однако наша биохимическая система на протяжении тысячелетий была предназначена для увеличения шансов на выживание, а не для достижения длящегося счастья.

Тогда получается, что достигнуть счастья можно только путём искусственных манипуляций с нашей биохимией. С этой задачей успешно справляются многочисленные психотропные лекарства и наркотики, над усовершенствованием которых без устали работают исследовательские лаборатории, фармацевтические фирмы и преступные организации.

И это только начало. Специалисты уже проводят эксперименты по изменению биохимических процессов в организме как путём прямого воздействия электродов на определённые участки мозга, так и с помощью генной инженерии.

О душе

Действительно ли человек обладает некой волшебной искрой, которая отличает нас от кур, свиней и компьютерных программ? Если да, то откуда берётся эта волшебная искра, и почему мы уверены, что искусственный интеллект ею тоже не обзаведётся?

Если такой искры нет, то имеет ли смысл продолжать придавать особую ценность человеческой жизни, особенно после того, как компьютеры превзойдут интеллектуальные способности человека?

Вера в бессмертную душу человека на протяжении веков являлась столпом нашей правовой, политической и экономической системы и объясняла, например, почему нет ничего особенного в убийстве животных — ради еды или просто для удовольствия. Но до сих пор не появилось ни одного научного доказательства существования души, хотя её тщательно искали во всех закоулках сердца и сплетениях мозга. У свиней души нет, но и у человека её тоже нет.

Согласно опросу Гэллопа, только 15% американцев считают, что человек появился в результате естественного отбора без какого-либо божественного вмешательства; 46% верит, что бог создал людей примерно десять тысяч лет назад; среди выпускников колледжей 46% верят в библейскую историю создания мира.

Согласно теории эволюции, молекула ДНК максимально отражает суть эфемерных понятий человеческой природы, внутреннего «я», души и так далее. Расставание с образом бессмертной души даётся тяжело не только верующим христианам и мусульманам, но и светским людям. Поэтому теория эволюции, в отличие, например, от теории относительности или квантовой механики, вызывает у многих такое страстное неприятие.

О разуме и сознании

Согласно Харари, разум представляет собой поток субъективного опыта, состоящего из ощущений, эмоций и мыслей, которые, переплетаясь, становятся потоком сознания. Роботы не имеют ощущений и ничего не желают, соответственно, у них нет сознания. Наука пока знает на удивление мало о том, как функционирует человеческий разум.

Пока никто не разгадал, как электрические токи в мозгу создают субъективные ощущения и зачем человеку нужно испытывать голод или страх. Удивительно, что чем лучше учёные понимают, как работает мозг, тем загадочнее становится роль разума и чувств. Никому пока не известно, происходит ли в нашем разуме что-либо отличное от происходящего в мозгу.

Оказывается, на 99% наше тело, включая мускулы и гормоны, двигается без участия сознательных ощущений. Тогда почему нейронам, железам и мускулам нужны эмоции и ощущения в одном проценте случаев?

Алгоритмы, контролирующие самоуправляемые автомобили, с которыми экспериментируют Tesla и Google, каждую секунду обрабатывают огромное количество информации о других автомобилях, пешеходах, знаках дорожного движения и при этом не испытывают чувства страха. Ни одной системе обработки информации не нужны субъективные ощущения для того, чтобы нормально функционировать.

Если мы не можем объяснить, как работает наше сознание, то, может, просто пренебречь им? На протяжении тысячелетий люди объясняли непонятные природные явления волей божьей. Однако сейчас никто не принимает всерьёз идею существования бога. Та же судьба постигла и понятие души. Так может, пора и разум с чувствами отправить на свалку истории?

Учёные всё же соглашаются, что сознание существует и имеет моральную ценность, однако оно не выполняет никакой биологической функции. Возможно, сознание является биологически бесполезным побочным продуктом процессов, происходящих в мозгу.

Согласно одному из научных догматов, все наши ощущения — результат взаимодействия электротоков в мозгу. Теоретически возможно симулировать бесконечное количество виртуальных миров, ничем не отличающихся от реальности. И если это произойдёт, то где гарантия, что мы окажемся в реальном мире?

О сотрудничестве

Так в чём же уникальность человека, позволившая ему доминировать над миром природы? Признавая значение интеллекта и трудовых навыков, Харари утверждает, что решающей характеристикой человека, поднявшей его до уровня властелина планеты, стала способность человека к сотрудничеству с себе подобными. Никто из мира животных не умеет так разнообразно и гибко сотрудничать с бесчисленным количеством незнакомцев, как человек.

История предлагает множество примеров важности сотрудничества. Древний Рим завоевал Грецию не потому, что римляне были умнее, а потому, что они сумели лучше организоваться. На протяжении тысячелетий дисциплинированные армии легко одерживали победу над дезорганизованной ордой, и хорошо организованные элиты держали в подчинении разобщенные массы.

Для успеха любой революции не так важно, сколько людей поддерживают её идеи — важно, какое количество сторонников революции способно создать эффективную организацию.

Демократическая революция в Египте в 2011 году потерпела поражение, и власть оказалась в руках сначала «Мусульманского Братства» (организация признана террористической и запрещена на территории Российской Федерации — vc.ru), а потом — армии, потому что это были единственные два института, достаточно организованные, чтобы управлять страной.

О значении мифов

Помимо объективной реальности (например, сила притяжения) и субъективной реальности (наши убеждения и чувства), есть ещё третий уровень реальности — интерсубъективный. Существование объекта интерсубъективной реальности зависит от взаимодействия большого числа людей.

Например, деньги, законы и империи имеют значимость и ценность только до тех пор, пока большое количество людей договорились верить в их значимость. Если бы доллар перестали принимать кассиры в супермаркетах, то он быстро превратился бы в ненужную бумагу, а Советский Союз прекратил своё существование, потому что так договорились главы трёх государств.

Любому человеку важно верить, что его жизнь имеет некий объективный смысл. На самом же деле жизнь большинства людей имеет смысл только в рамках тех мифов, которыми они друг с другом делятся и в которые верят. Почему свадьба в церкви, пост на Рамадан или участие в выборах имеют смысл? Потому что так думают наши родители, друзья, родственники, соседи и даже жители далёких стран, а также их друзья, соседи и родственники.

По мере хода истории люди создавали свою систему мифов и следовали ей всем сердцем. Но рано или поздно каждая такая система рассыпается, и на её место приходит новая.

Оглядываясь назад, кажется полным сумасшествием участвовать в крестовых походах в надежде попасть в рай или грозить атомной войной ради сохранения веры в коммунизм. Следуя этой логике, Харари задаётся вопросом, а не покажется ли нашим потомкам лет через сто, что сегодняшняя вера в демократию и права человека — тоже полная чушь?

Человек правит миром только потому, что именно он умеет создавать интерсубъективную систему мифов, которая существует только в его воображении. С её помощью люди организовывали крестовые походы, социалистические революции и движения в защиту прав человека.

Способность создавать эти интерсубъективные системы не только отличает людей от животных, но и проводит водораздел между гуманитарными науками и естественными.

С точки зрения гуманитарных наук, крайне важно понимать развитие системы мифов человека, и их нельзя просто сводить к продукту жизнедеятельности гормонов и нейронов. Северная и Южная Кореи так отличаются друг от друга не потому, что гены северян отличаются от ген жителей Южной Кореи, а потому, что в Северной Корее господствует другая система мифов.

Харари предполагает, что в 21 веке граница между историей и биологией начнёт расплываться, но не потому, что мы найдём биологическое объяснение историческим событиям, а потому, что в угоду мифам (идеологии) будут перестроены спирали ДНК, в угоду политическим и экономическим интересам изменят климатические условия, и интерсубъективная реальность поглотит реальность объективную.

Мифы 21 века могут стать самой мощной силой, и если мы хотим понимать, каким будет наше будущее, нам надо разобраться в тех мифах, которые придают смысл жизни.

Как создавались мифы

Примерно 70 тысяч лет назад люди научились говорить, и появились истории о духах, демонах и феях. С развитием земледелия появились разнообразные боги и богини, от имени которых собирались налоги, в их честь возводились храмы, их символы украшали здания и одежды. Для древних шумеров их боги были такой же реальностью, как для нас — Google и Microsoft.

Возникновение письменности и денег позволило расширять границы поселений и собирать налоги на огромных территориях. Образовался слой бюрократов и появились огромные царства. Египетские фараоны приобрели статус божества. По сравнению с шумерскими богами, египетские боги и фараоны были гораздо более могущественными — они контролировали жизнь миллионов людей, которые по их воле возводили города и пирамиды.

Письменность позволила организовать целые общества по модели алгоритма, где отдельный человек представляет собой крошечное звено в цепи, и все важные решения принимаются алгоритмом.

Алгоритмическая структура любой организации означает: неважно, кто именно выполняет роль исполнителя в больнице, армии, школе, корпорации или королевстве, до тех пор, пока он или она следуют принятым правилам и протоколам. В идеально функционирующем алгоритме судьба человека находится в руках системы, а не конкретного правителя.

Для грамотной элиты всё написанное на бумаге было так же реально, как деревья, коровы и люди. Письменность изначально скромно позволяла описывать реальность, но со временем она преобразовалось в способ изменения реальности. Если официальный отчёт противоречит реальности, то, как правило, реальность «корректируется» под отчёт. Любой, кто когда-либо имел дело с какой-либо сложной бюрократической системой, знает, что текст документа гораздо важнее правды.

По мере роста влияния бюрократии увеличивалась значимость письменного текста. Служители разных религий стали составлять перечни деяний своих богов и их заповеди. Эти записи пытались дать полное описание «реальности», и поколения учёных мужей стали искать ответы на любые вопросы на страницах Библии, Корана или Вед.

Забавно, что до сих пор президенты США принимают присягу на Библии, и свидетели в суде обещают говорить правду, положив руку на Библию, при том, что Библия полна выдумок, мифов и ошибок.

Мифы необходимы для нормального функционирования любого общества. Общество развалится без веры в существование, например, государства или корпорации. С другой стороны, вера в национальные или религиозные мифы или в миф о необходимости защиты национальных интересов может привести к войне. То есть получается, что причина войны — воображаемая, а страдания людей — абсолютно реальные.

Поэтому, говорит Харари, так важно уметь отличать вымысел от реальности. В 21 веке мифы будут ещё более влиятельными, а идеологии — ещё более тоталитарными. Эти идеологии с помощью алгоритмов и биотехнологий будут не только контролировать наши ежеминутные действия, но и формировать наш мозг и создавать виртуальные реальности со своим раем и адом. Отличить вымысел от реальности и науку от религии станет ещё труднее.

Об экономическом росте

Современный мир убеждён, что экономический рост не только возможен, но и жизненно необходим. Пока население продолжает увеличиваться, экономический рост нужен хотя бы для того, чтобы поддерживать имеющийся уровень жизни. В ином случае безработица будет расти, зарплаты — падать, а социальное напряжение — нарастать.

Идея экономического роста объединяет все религии, идеологии и политические движения. И коммунисты, и капиталисты верили в создание рая на земле за счёт экономического роста, только расходились во мнении, какими методами его достичь. И если социальные структуры, природная среда обитания или традиционные ценности встают на пути роста экономики, то их сметают с дороги, не задумываясь.

Но может ли экономика расти бесконечно? Харари считает, что может, поскольку с помощью науки люди постоянно открывают новые виды энергии и материалов. В современном мире существует три вида ресурсов — сырьё, энергия и знания. Знания — ресурс неисчерпаемый. Чем больше знания используются, тем больше их становится. Благодаря знаниям человечество сможет преодолеть проблему исчерпания ресурсов.

Человечество стоит перед другой страшной угрозой — экологической катастрофой. Когда возникает тема изменения климата, то оказывается, что приверженцы экономического роста в лице президентов, министров и директоров верят, что произойдёт чудо и учёные придумают, как спасти планету. А если и не придумают, то инженеры всё равно смогут построить высокотехнологичный «ковчег», который спасёт жизнь элиты. Легкомысленная вера в спасительный «ковчег» представляет собой одну из самых больших угроз для будущего человечества и всей экосистемы.

О гуманизме

На протяжении веков люди разных культур верили, что они играют роль в некоем великом проекте, задуманном всемогущими богами или естественными законами природы. Это придавало смысл человеческой жизни и создавало психологическую защиту от несчастий. Какие бы беды ни выпадали на долю человека, он верил, что всё происходит согласно божественному плану, и если не в этой жизни, то уж после смерти человек точно обретёт счастье.

В современном мире принято считать, что жизнь не имеет сценария, директора или продюсера — и не имеет смысла. Вселенная слепа и бесцельна, события просто происходят одно за другим, и никакая высшая сила не придаёт смысла нашим страданиям. Однако человечество сумело вернуть смысл бесконечной пустоте космоса.

В последние несколько столетий распространились идеи гуманизма, согласно которым человек обладает уникальной и священной сущностью, являющейся источником смысла и значения жизни во вселенной. Гуманизм предполагает, что человек черпает смысл жизни и окружающего мира из своего опыта, из своего внутреннего «я».

Если в средневековье бог решал, что есть добро или зло, то с развитием гуманизма человек с его свободной волей стал высшим авторитетом, а человеческие чувства — критерием морали. Убийство и воровство является злом не потому, что бог велел «Не убий, не укради», а потому, что это доставляет страдания жертве и её близким.

Гуманизм видит жизнь как постепенный процесс внутреннего роста, перехода от невежества к знанию через накопление интеллектуального, эмоционального и физического опыта. Гуманистический взгляд на жизнь лёг в основу многих современных индустрий. Туристические агентства, рестораны и художественные галереи продают нам не отели, обеды или картины — они продают новый опыт.

Три течения гуманизма

Гуманизм, как любая успешная религия, постепенно разделился на конфликтующие «секты». Ортодоксальное течение делает упор на индивидуальной свободе. Чем больше свободы, тем богаче, многограннее и красивее мир вокруг нас. Выражение индивидуальной воли важнее интересов государства. Это течение получило название «либерализм».

Критики либерализма задаются вопросом: в мире много индивидов, и каждый имеет право на выражение своих чувств, и как совместить все конфликтующие чувства и желания, например, чувства несчастных беженцев в Германии и чувства немцев, беспокоящихся за сохранение своей национальной идентичности?

Другим направлением гуманизма стал социалистический гуманизм, фокусом которого является коллектив. Социалисты предлагали прекратить «погружение в себя» и задуматься: «Что чувствуют другие люди, как мои действия влияют на их опыт?»

Социалисты призывали создавать партии и профсоюзы. Если либералы считают, что избиратель на выборах или покупатель в супермаркете всегда прав, то социалисты уверены, что партия и профсоюз всегда «знают лучше», чем конкретный человек.

Третьим разветвлением гуманизма стал гуманизм эволюционный, опирающийся в своём видении мира на теорию эволюции Дарвина. С точки зрения эволюционных гуманистов, конфликты служат питательной средой для естественного отбора, который двигает развитие вперёд. Путём естественного отбора человечество будет становиться всё сильнее и здоровее, и рано или поздно родится «сверхчеловек».

А если во имя социального равенства и прав человека людям позволено «расслабиться», то это может привести к деградации и даже уничтожению человеческой расы. Харари отмечает, что отнюдь не все эволюционные гуманисты становятся нацистами — как и идеи социализма не сводятся к сталинским лагерям. Автор полагает, что идеи эволюционного гуманизма будут играть значительную роль в формировании культуры 21 века.

О либерализме

В начале 21 века либерализм с присущими ему демократией и свободным рынком преобладает во всех развитых странах и во многих развивающихся. Однако либерализм не может почивать на лаврах, так как в основании его успеха заложены предпосылки для разрушения этой идеологии.

Когда генная инженерия и искусственный интеллект полностью раскроют свой потенциал, ценности либерализма, демократии и свободного рынка могут оказаться такими же ненужными, как ножи из кремния, магнитофонные кассеты и коммунизм.

Что произойдёт, когда мы поймем, что у избирателей на выборах и покупателей в супермаркетах нет свободы выбора, когда появятся технологии, способные обмануть их чувства, и человеческий опыт станет ещё одним дизайнерским продуктом, не отличающимся от другого товара в магазине?

Обращаясь к истории, многие, наверное, думают, что падение царства фараонов и отказ от идеи о божественном происхождении мира являются событиями позитивными. Возможно, что исчезновение гуманизма тоже окажется полезным. Люди обычно боятся перемен, потому что они боятся неизвестности. Но единственное постоянство, известное истории — это то, что всё всегда меняется.

О свободе выбора

Либералы так ценят индивидуальную свободу, потому что верят, что человек обладает свободой выбора. Однако современная наука доказала, что любой поступок человека предопределён цепной реакцией биохимических процессов в организме, а вовсе не является выражением свободной воли.

Аргумент о том, что человек чувствует себя свободным и действует в соответствии со своими желаниями, тоже не выдерживает критики. Согласно научным данным, человек не свободен в выборе своих желаний — они предопределены биохимическими процессами в мозгу, которые, в свою очередь, предопределены его генетическим кодом, сформировавшимся в результате длительного эволюционного развития и случайных мутаций.

Наблюдения за активностью головного мозга показали, что выбор решения происходит на несколько секунд раньше, чем человек осознаёт сделанный им выбор.

Вывод об отсутствии свободы воли имеет не только философский смысл, но и вполне практическое применение. Если у человека нет свободы воли, значит, можно управлять его желаниями, используя наркотики, генную инженерию или прямую стимуляцию мозга. Например, учёные работают с крысами, которым имплантировали электроды в область мозга, отвечающую за чувственное восприятие.

Это позволяет учёным командовать крысами с помощью удалённого пульта управления. После некоторой тренировки исследователи научились не только заставлять крыс поворачивать направо или налево и забираться по лестнице, но и прыгать с высоты — занятие, которое «обычные» крысы терпеть не могут. Интересно, что крысы ничего не делают против воли, а наоборот, как показывают эксперименты, они чувствуют желание подниматься по лестнице и прыгать с высоты.

Харари, ссылаясь на научные эксперименты, утверждает, что, воздействуя на нужные участки мозга, можно манипулировать человеком и «избавить» его от таких чувств, как страх, гнев, любовь, от депрессии. Когда подобное воздействие станет рутиной, можно будет, например, избавиться от такой проблемы, как лень. Ты хочешь стать пианистом, но вместо занятий предпочитаешь смотреть телевизор? Ничего страшного. Надень специальный шлем, загрузи программное обеспечение — и вот ты уже сидишь за пианино.

В 21 веке мы столкнёмся с потоком «умных» устройств, которые полностью игнорируют понятие свободной воли человека. Смогут ли демократия, свободный рынок и права человека пережить этот поток?

О роли человека в будущем мире

Харари предполагает, что в будущем люди перестанут рассматриваться в качестве рабочей и военной силы, соответственно, они потеряют свою ценность в будущей политике и экономике. Войны буду вестись дронами и роботами, управляемыми «умным» алгоритмом, а кибератака на инфраструктуру «врага» причинит больше вреда, чем любая армия старого образца.

Люди потеряют свою экономическую ценность, потому что интеллект «отделится» от сознания. До недавнего времени было принято считать, что только сознательные существа способны выполнять высокоинтеллектуальные задачи. Однако развитие кибернетики и компьютерных технологий говорит об обратном: выполнение сложных заданий точно требует высокого интеллекта, а наличия сознания — необязательно.

Харари на разнообразных и остроумных примерах объясняет, почему со временем целый ряд профессий (шоферы, транспортные диспетчеры, финансовые брокеры, фармацевты, юристы, преподаватели и врачи) окажется ненужным.

Например, первостепенная задача врача — поставить правильный диагноз и назначить лечение. «Живой» врач способен обработать ограниченный объём информации, он устаёт, и у него мало времени на общение с больным. В отличие от врача, искусственный интеллект никогда не устаёт, может работать 24 часа в сутки и способен быстро обработать полную информацию об истории болезни больного и его генотипе, истории болезней его родственников, проанализировать всю имеющуюся в мире и ежедневно обновляемую информацию о болезнях и способах их лечения.

В результате компьютер быстро поставит точный диагноз и назначит самое оптимальное лечение. Более того, такой искусственный интеллект, наблюдая за давлением, активностью мозга и другими биометрическими данными своего пациента, сможет гораздо лучше доктора, прочувствовать настроение и состояние пациента и разговаривать с ним как раз таким тоном и голосом, который лучше всего отвечает эмоциональному настрою пациента.

Об алгоритмах

По мнению Харари, человек представляет собой совокупность органических алгоритмов, отшлифованных естественным отбором на протяжении миллионов лет. Алгоритмические вычисления не зависят от материала, из которого сделан калькулятор. Поэтому, считает Харари, нет оснований думать, что неорганический алгоритм не сумеет достичь или превзойти уровень задач, выполняемых органическим алгоритмом.

Благодаря мощным вычислительным возможностям компьютеров очень небольшое число сотрудников Uber управляют миллионами водителей. А в 2014 году искусственный интеллект по имени Vital стал членом совета директоров гонконгского фонда венчурного капитала, инвестирующего в фирмы, занимающиеся регенеративной медициной. Как и остальные пять членов совета директоров, Vital участвует в голосовании по всем инвестиционным решениям.

Но откуда берутся эти мощные алгоритмы? Если изначально алгоритм являлся продуктом коллективных усилий команды программистов, то постепенно, считает Харари, с появлением самообучающихся машин и искусственных нейронных сетей алгоритмы будут развиваться независимо от человека, обучаясь на своих ошибках и совершенствуя свои способности. Они достигнут таких высот, что человеческий разум уже не сможет их постичь.

По мере того, как алгоритмы будут «выдавливать» людей из рынка труда, богатство и власть сосредоточатся в руках крохотной элиты, владеющей этими всемогущими алгоритмами, создавая неслыханное социальное и политическое неравенство. Более того, алгоритмы смогут сами стать собственниками.

Мы давно свыклись с такими абстрактными понятиями, как корпорация или государство, нас не удивляет, что Toyota или Аргентина, не имея ни физического тела, ни разума, является субъектом права, владеет землёй и деньгами. Почему тогда не представить себе, что аналогичный статус будет предоставлен алгоритму?

Об утрате индивидуальности

Угрозу либерализму Харари видит в том, что человек в будущем утратит свою индивидуальность, поскольку «всемирная сеть» будет знать и понимать людей лучше, чем они понимают себя сами, и, соответственно, принимать за них все важные решения.

Если мы предоставим Google свободный доступ к информации, считываемой с наших биометрических устройств, к нашим историям болезни, тестам ДНК; если компания будет знать, что происходит с нашими банковскими счетами, какой у нас уровень сахара в крови и как часто мы занимаемся сексом, то он будет знать о нас больше, чем знаем мы сами. И мы будем доверчиво советоваться с Google, какой фильм посмотреть, какую профессию выбрать, чьё предложение о работе принять и за кого выйти замуж или жениться.

В обмен на такие всеобъемлющие консультации мы «всего-навсего» должны будем отказаться от идеи, что каждый человек индивидуален и свободен принимать собственные решения. Нам нужно будет свыкнуться с мыслью, что человек более не является автономной сущностью, а представляет собой частичку огромной глобальной сети.

Уже сейчас исследование показало, что алгоритм Facebook лучше разбирается в особенностях личности и характера пользователей, чем их друзья, супруги и родители.

На заре европейского империализма купцы и колонизаторы приобретали острова и страны в обмен на разноцветные бусы. В 21 веке личная информация является, пожалуй, самым дорогим ресурсом, который ещё остался у человечества, а мы её добровольно отдаём гигантам интернета в обмен на видео с котиками.

О «сверхчеловеке»

Харари предполагает, что человечество может оказаться разделённым на биологические касты. К элитной касте будут принадлежать «сверхлюди», обладающие неслыханным здоровьем, долголетием, умом и творческими способностями, которые позволят им принимать все важнейшие решения в мире.

И будет низшая каста, состоящая из всего остального человечества, находящегося в подчинении у алгоритмов и элит. Поскольку «народные массы» потеряют свою экономическую и политическую значимость, то элиты могут, например, решить, что не стоит тратить время и средства на медицинское обслуживание бедных и ненужных людей, а лучше продолжать заниматься усовершенствованием элит.

Элиты расстанутся со своими либеральными корнями и будут обращаться с обычными смертными не лучше, чем мы обращаемся с животными.

О новой религии

На смену либерализму придёт новая религия, которая объявит, что вселенная состоит из потока данных, и ценность любого явления или сущности определяется вкладом в обработку данных. Харари называет её «датаизм» (dataism). Датаизм прочнее всего связан с двумя дисциплинами — кибернетикой и биологией.

Датаисты уверены, что любой организм, будь то жираф, помидор или человек, является инструментом обработки информации. И экономисты теперь воспринимают экономику как систему обработки данных. Политологи тоже всё чаще смотрят на демократии и диктатуры как на конкурирующие механизмы сбора и анализа информации.

Харари считает, что современные демократические структуры не в состоянии быстро собирать и обрабатывать информацию, поэтому они теряют контроль над ситуацией и не могут предложить осмысленную картину будущего. То же самое происходит и с авторитарными режимами.

Однако вакуум власти, как правило, заполняется быстро. Вопрос в том, какие структуры придут на смену привычным демократическим или авторитарным политическим институтам и кто будет их контролировать?

Если рассматривать человечество как единую систему обработки информации, то результатом работы этой системы будет ещё более эффективная система под названием «Интернет всех вещей». Основная заповедь датаизма — всё должно быть связано со всем. Человеческие организмы и автомобили на улице, и куры в курятнике, и деревья в джунглях — все должны быть подсоединены к «Интернету всех вещей».

Со времён французской революции датаизм — первое движение, провозгласившее истинно новую ценность — свободу информации. Почему американцы здоровее, богаче и счастливее иранцев или нигерийцев? Потому что в Америке больше свободы информации, считают датаисты. Свободный обмен информацией может, например, сократить вредные выбросы в атмосферу путём рационализации транспортной системы.

Зачем человеку собственный автомобиль, когда, как правило, он им пользуется пару часов в сутки? Гораздо разумнее создать пул «умных» машин, управляемых алгоритмом, которые будут подаваться в точно заданное время и место и отвозить, куда нужно.

В этом случае пул из 50 млн машин сможет заменить миллиард частных автомобилей, соответственно, сократится потребность в дорогах, мостах, туннелях и парковочных местах. При этом, правда, придётся отказаться от права на частную жизнь и постоянно сообщать алгоритму о своём местонахождении.

Людям нравится быть частью потока информации, потому что тогда человек чувствует принадлежность к чему-то великому. Датаизм проповедует, что каждое твоё слово и действие являются частью глобального потока информации, а алгоритмы за тобой наблюдают и заботятся о тебе. Какой смысл совершать поступки или приобретать новый опыт, если об этом никто не знает?

Если гуманизм призывал находить смысл жизни внутри нас, то датаизм верит, что наш опыт ничего не значит, если им не поделиться с «друзьями» в онлайне. Помещая комментарии, блоги и фотографии в интернет, мы обогащаем глобальную систему обработки информации, и в этом главная ценность человека.

Так же, как гуманизм в своё время развенчал идею бога, заявив, что бог — плод воображения человека, датаизм положит конец идее о ценности человека. Новая философия перевернёт представление о бытие человека: расскажет, что воображение — не что иное, как биохимический поток алгоритмов.

Что произойдёт с человеком, когда датаизм и «Интернет всех вещей» охватят весь мир? Харари полагает, что роль человека будет сначала сведена до микросхемы, потом до бита информации, и в конце концов мы «растворимся в потоке информации, как комок земли в бушующем речном потоке». Иными словами, человек может исчезнуть, как исчезали до него другие животные, не выдержавшие естественного отбора.

Заключение

Прочитав Homo Deus, мы успешно расширили свои представления о религии, душе, сознании и разуме, свободе выбора (или её отсутствии), гуманизме и либеральной демократии. Харари сумел логично и убедительно связать прошлое и настоящее человечества и подвести читателя к границе с будущим.

И вот здесь Харари позволил своему воображению разыграться, нарисовав разноплановые, нечёткие, иногда противоречивые и всегда нерадостные картинки недалёкого будущего. По мысли автора, человечество либо окажется во власти всемогущих алгоритмов, либо само «растворится» в потоке информации, став её частицей, либо превратится в «лишних» людей, подталкиваемых к вымиранию узкой элитой, состоящей из «сверхлюдей».

При любом сценарии развития нашего будущего Харари убеждён, что генетики, биологи и кибернетики научатся со временем переписывать наши генетические коды, перенастраивать схему работы мозга, изменять биохимический баланс в организме, создавать искусственные органы и неорганический искусственный интеллект.

На протяжении веков, несмотря на многочисленные революционные изменения в науке и технологиях, человеческая природа оставалась неизменной. Поэтому мы до сих пор учимся у Конфуция, сопереживаем героям Софокла, Еврипида и Шекспира.

Однако как только наука научится перестраивать человеческий разум и психику, знакомый нам человек разумный исчезнет, и начнётся новое бытие, понять и предугадать которое пока никому не дано. По мнению Харари, наши потомки будут отличаться от нас настолько же, насколько человек разумный отличается от неандертальца.

Если читатель обеспокоен такими перспективами, Харари спешит успокоить. Он обращает наше внимание на парадоксальный факт: накопление и обработка информации происходят всё быстрее, однако наше понимание общей картины мира и способность делать прогнозы только уменьшаются.

Поэтому Харари не пытается предсказать наше будущее, а приглашает читателя подумать над сегодняшними тенденциями и обсудить, пока не поздно, варианты выбора, стоящего перед человечеством.

Какие экономические институты подвергнутся изменениям в связи с возможным продлением срока жизни до 150 лет?
Рынок труда.
Рынок нефти.
Порядок ценообразования.
Внешняя торговля.
Показать результаты
Переголосовать
Проголосовать
Что из нижеперечисленного является объектом интерсубъективной реальности?
Законы.
Скорость света.
Деревья.
Любовь.
Показать результаты
Переголосовать
Проголосовать
Какое практическое значение имеет вывод об отсутствии свободы воли у человека?
Необходимость милитаризации общества.
Необходимость строительства новых образовательных учреждений.
Возможность отменить свободные выборы.
Возможность искусственного манипулирования желаниями человека.
Показать результаты
Переголосовать
Проголосовать
Какую основную ценность провозглашает датаизм?
Равенство детей и родителей.
Свободу обмена информацией.
Целостность национальных интересов.
Право человека на стремление к счастью.
Показать результаты
Переголосовать
Проголосовать
Что является, по мнению Харари, самым дорогим ресурсом 21 века?
Солнечная энергия.
Знания.
Личная информация.
Запасы питьевой воды.
Показать результаты
Переголосовать
Проголосовать
Какое направление гуманизма провозглашает ценность индивидуальной личности?
Коммунизм.
Либерализм.
Социализм.
Эволюционный гуманизм.
Показать результаты
Переголосовать
Проголосовать
Почему сильные мира сего не озабочены будущей экологической катастрофой?
Они живут только сегодняшним днем.
Они убеждены, что учёные придумают, как её предотвратить.
Они не верят в изменение климата.
Они надеются улететь на другую планету.
Показать результаты
Переголосовать
Проголосовать
В чем Харари видит уникальность человека по сравнению с животными?
В наличии сознания.
В способности к сотрудничеству с себе подобными.
В наличии трудовых навыков.
В наличии души.
Показать результаты
Переголосовать
Проголосовать
Какая система научных знаний вызывает у людей наибольшее неприятие?
Кибернетика.
Теория эволюции.
Теория относительности.
Квантовая механика.
Показать результаты
Переголосовать
Проголосовать
В чем, согласно Харари, был смысл здравоохранения и социального обеспечения в 19 и 20 веках?
В поддержании силы и здоровья нации.
В снижении уровня социального напряжения.
В создании условий для счастья каждого человека.
В заботе об индивидуальном благополучии граждан.
Показать результаты
Переголосовать
Проголосовать
0
22 комментария
Написать комментарий...
Руслан Литвинов

"... появится целый класс «лишних» людей, что демократия и свободный рынок, какими мы знаем их сейчас, прекратят свое существование, а человек станет частью некоего глобального алгоритма. Харари не исключает вероятности того, что новый «человек божественный» будет обращаться со всеми остальными людьми примерно так же, как мы обращаемся с животными." Так у евреев и так есть люди-это евреи и остальные гои, да и элита собственно так и относиться к большинству людей...https://www.youtube.com/watch?v=cVxn9q9GL_0

Ответить
Развернуть ветку
Борис Ларионов

Это в принципе описание толпо-элитарного общества, которое сейчас на всей планете. Всегда есть толпа и есть элита.

Ответить
Развернуть ветку
Руслан Литвинов

Вопрос, кого считать элитой, людей обладающих властью или людей с выдающимися способностями...я не совсем согласен, что толпы образуют общество, всё же я склонен верить в индивидуа́льность человека, который как раз таки пытается не быть толпой, благодаря таким людям собственно и происходит прогресс и разветвите, именно их имена входят в историю...именно людей которые созидаю и живут в гармонии с собой хотелось бы назвать "элитой"

Ответить
Развернуть ветку
Odin Dodin

будто у нас по-другому,не русские республики ,напомню,тоже не от израиля откололись.

Ответить
Развернуть ветку
Руслан Литвинов

минусят евреи что ли или гои)?

Ответить
Развернуть ветку
Руслан Литвинов

так как редактировать нельзя, добавлю, вместо того, что бы просто минусить, озвучьте своё видение

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Александр Вандана

Где же вы тут увидели Фукуяму-то?
Лично мне куда больше Хантингтона напомнил.

Ответить
Развернуть ветку
Дмитрий Герасимов
>Данные - это прекрасно, но пока никто не научился питаться одними данными.

А как на счет алгоритмов?
Но в целом, конечно же, соглашусь. Data - это сырьё, которое нужно уметь обрабатывать. А вот обработанные данные уже сейчас конвертируются в огромные деньги.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Gor Airapetyan

Вижу две противоречащих друг другу мысли. В разделе "О душе" приводится ссылка на опрос Гэллопа, что "...только 15% американцев считают, что человек появился в результате естественного отбора без какого-либо божественного вмешательства; 46% верит, что бог создал людей примерно десять тысяч лет назад." Следом в разделе "О разуме и сознании" утверждается, что "...Однако сейчас никто не принимает всерьёз идею существования бога."
Как это соотносится с приведенным опросом о 46%-х верующих в бога? Или я не понимаю какую-то суть мыслей?

Ответить
Развернуть ветку
Павел Каряпкин

Согласен, что эти два утверждения автора противоречат друг другу. Кто те самые «Никто», которые не воспринимают всерьез идею существования бога? Возможно, автор имел ввиду «никто» — это образованный класс, ученые и т.п. люди, считающие себя умными. Или это такой прием, чтобы придать весомость какой-то идее — например, что идею существования бога не нужно воспринимать всерьез.

В общем-то с последним я согласен )

Ответить
Развернуть ветку
Nisar Shams

отличный обзор на на книгу!

Ответить
Развернуть ветку
Сергей Токарев

// Согласно теории эволюции, молекула ДНК максимально отражает суть эфемерных понятий человеческой природы, внутреннего «я», души

Откуда этот бред?
Начнем с чистой логики - чтобы это утверждение было истинным "максимально отражает суть"
нам необходимо, чтобы суть была известно.

Эфемерные понятия человеческой природы, их суть до конца нам неизвестны, их механики слабоизучены, тайники души не разложены на функциональные ряды Фурье, в мире нет инженеров, способных действительно рассчитать построение новой религии или создание нового литературного шедевра.

Следовательно, мы не можем утверждать, что что-то, будь это молекула ДНК, теория эволюции или какашки половозрелого самца макаки-резуса МАКСИМАЛЬНО ОТРАЖАЕТ суть эфемерных понятий человеческой природы.

Ответить
Развернуть ветку
Алексей Толматов

Сложные системы по разному на разных языках редуцируют до своих составных элементов. В наше время лучшей объяснительной моделью обладает так называемая "компьютерная метафора" например можно сказать вы "информационная система". ДНК чертеж/флэшка с чертежом по которому вы собирайтесь, в ней записано много фундаментального, если она не будет сильно повреждена, а вы не будете расти рядом с условным Чернобылем, у вас будет много общего с людьми.Будет произведено копирование с незначительной модификацией (мутацией).

А теперь о смысле фразы - |молекула ДНК максимально отражает суть эфемерных понятий человеческой природы, внутреннего «я», души|

Вероятно перевод стилистически некорректный, частично смысл утрачен.
Сам автор статьи пытается донести, что с открытием ДНК мы уже не может довольствоваться эфемерными/ложными/малоубедительными/наивными/слишком простыми объяснениями о природе и происхождении человека, божественный замысле, душа, Я. Да это физикализм, математический/биологический редукционизм.

Ваше "Я"- хорошо интегрированный и синхронизированный набор нейро-сетевых алгоритмов, софт работающий в связке с аппаратным обеспечением, а именно с 80-90 млрд нейронов, соединенных триллионами связей.Весит до 2 кг, потребляет 20-30 ватт. Вычисляет со скоростью от 10^16 FLOPS (десять в 16-ой степени), если считать по количеству синапсов и нейронов, до 10^28 FLOPS, если брать в расчет микротрубочки или даже отдельные протеины в клетке

Ответить
Развернуть ветку
Сергей Токарев

до последнего абзаца согласен, последний абзац - это пока спекулятивная гипотеза на базе современных представлений, похоже на то, как во время расцвета гидродинамики ученые торжественно объявляли мозг и живые существа хорошо устроенными гидравлическими механизмами.

Нет, у нас нет точной модели даже мозга круглого червя из трехсот нейронов, мы вынуждены довольствоваться приблизительными моделями (хотя они и демонстрируют похожее поведении с круглым червем). На больших системах расхождения будут еще более колоссальными. Давайте подождем точной модели и не будем производить голословные утверждения, что наука может сейчас объяснить то, что на самом деле еще остается весьма туманным.

Ответить
Развернуть ветку
Алексей Толматов

Вы отлично уловили то, что я хотел донести.
В каждом историческом периоде есть "объяснительные традиции"
В нас то жидкость течет, то душа обитает, то мы на часы похожи.
Наверняка знакомы с историей вычислений, раньше думали, что вполне подходящим устройством будет большая механическая машина с шестеренками.
Это в научной методологии потом назвали редукционизмом, все свести к примитивным по сравнению с тем, из чего состоит и как организован мозг элементам систем которые подаются моделированию.

Но конечно есть успехи, мы успешно посредством искусственных нейронных сетей (сначала перцептроны потом многослойные) смогли воспроизвести зрительную кору в кремнии и софте в 2012-году на практике, но уже в 1980-х была готова теоретическая база. Нейрофизиология встретила математику и понеслось. Для точного моделирования и интеграции в единую систему некого искусственного мозга вроде как не готова не теоретическая база в математика, не эмпирическая база в нейрофизиологии, не технологическая база нейро-морфных аппаратных мощностей.

Так же нас поджидает парадокс черных ящиков, когда вот он кремниевый/ещё какой то там мозг, он работает, показывает интеллект не хуже среднего человека. Но мы не может с высокой точностью понять, как работаю алгоритмы в это ящике. Скорее всего нам самим как билогическим машинам потребуется когнитивная агументация.

Ответить
Развернуть ветку
Данила Свиридов

Ребят, книга уже переведена ?

Ответить
Развернуть ветку
Andrey Perelman

Издатель обещает ее на полках в конце декабря. Ждать недолго осталось, если обещание будет выполнено

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Anton Nikonov

Что за реклама книги?! vc скатился

Ответить
Развернуть ветку
Axel Unioc

После информации о датаизме предложение пройти тестирование, с предварительной регистрации через соцсеть, выглядит комично)) Крутая статья, спасибо

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Цой жив

Отличный обзор. Структурно все расписал и интересно было почитать. Правда, все это читали еще у Брэдбери. Но, сегодня уже более понятно, как стать элитой. Пошел писать алгоритм...

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
sando

с таким же успехом можно гадать в каком месяца какого года рухнет биткоин.

Ответить
Развернуть ветку
Цой жив

У меня тут в Office 2019 до сих пор умный поиск не встроен... так что еще не скоро

Ответить
Развернуть ветку
19 комментариев
Раскрывать всегда