«Рэймонд Курцвейл ошибается: сингулярность совсем не близко»

Издание Pando опубликовало критический отзыв журналиста Натана Пенски на книгу известного футуролога Рэя Курцвейла «Сингулярность уже близко».

Культура высоких технологий преклоняется перед «сумасшедшими», которые, не видя границ, расширяют наши представления о жизни и создают новую реальность прямо из своего воображения. Тем не менее, иногда «сумасшедшие» порождают действительно абсолютно ненормальные идеи.

Я думаю про Рэймонда Курцвейла. Без сомнения, он гениален. Он — создатель первых уже привычных нам планшетных сканеров, одна из главных фигур в развитии технологий распознавания устной и письменной речи, создатель компьютерных методов преобразования текста в речь для слепых людей и изобретатель синтезаторов, на которых играли музыканты от Depeche Mode до Duran Duran. Сейчас, будучи одним из главных инженеров Google, он работает над технологиями обработки естественной речи и является лауреатом множества наград, в том числе Национальной медали США в области технологий и инноваций.

Несмотря на все эти достижения, широкой общественности Курцвейл, скорее всего, наиболее известен как футуролог. Ученый делает множество предсказаний о структуре нашего будущего, как, например, в книге «Сингулярность уже близко».

Рэй Курцвейл уверяет нас, что в ближайшем будущем технологии окажутся на такой высокой стадии развития, что человечество в биологическом смысле и искусственный интеллект сольются в постчеловеческую реальность под названием сингулярность.

К сожалению, сейчас я даже не могу поймать сигнал в моём загородном доме в Пенсильвании, а чтение тонн злобных комментариев, состоящих из мерзких угроз таким СМИ, как Gawker, никак не даёт поверить, что люди хотя бы приближаются к физическому и интеллектуальному соединению с машинами.

Однако по Курцвейлу, сингулярность — это «период в будущем, когда темпы технологического прогресса окажутся настолько высокими, когда влияние технологий станет настолько глубоким, что человеческая жизнь безвозвратно перевернётся».

Сингулярность означает кульминацию слияния нашего биологического мышления и существования с высокими технологиями. Итог — мир всё ещё человеческий, но уже оторванный от своих биологических оснований. После наступления сингулярности не останется границ между человеком и машиной, между физическим и виртуальным.

Рэй Курцвейл считает, что сингулярность наступит в 2045 году.

Но это не всё. Сингулярность, или соединение человечества и технологий в одном, в силу своей природы превратит разум в чистую энергию, которая со скоростью света пропитает всю вселенную: «После наступления сингулярности разум, освобождённый от своих биологических и технологических корней, начнёт пронизывать материю и энергию в самой их сущности. Соединённый разум достигнет этого, реорганизуя материю и энергию в поисках оптимального равновесия, которое требуется, чтобы выйти за пределы Земли».

Курцвейл продолжает рассказом о том, как разум будет распространять информацию быстрее скорости света и как неразумные материя и механизмы вселенной будут преобразованы в сублимированные формы интеллекта.

Если вам кажется это слишком странным, вы не одиноки. Утверждения Рэя Курцвейла привлекли повышенное внимание СМИ, в том числе и критику. В конце концов, сложно заявить, что в скором времени Земля превратится в пульсирующую орбиту чистого разума, летящего сквозь вселенную быстрее скорости света, и не вызвать множество вопросов.

Тем не менее, как бы странно это ни звучало, теорию Курцвейла можно подкрепить биологическими фактами. Моя жена Элисон Конел — исследователь в области когнитивной психологии и нейронаук из университета Аллегейни. По её словам, что-то похожее на трансформацию материи в «чистую энергию» происходит прямо сейчас в нашем теле.

Наши чувства на самом деле преобразовывают внешнюю энергию во внутреннюю во время волшебного процесса трансдукции. Например, фоторецепторы в наших глазах постоянно превращают энергию света или фотоны во внутреннюю энергию нейронов.

После окончания конверсии наш мозг из этой энергии создаёт настоящее электричество, которое потом выбрасывается с помощью расположенных в мозгу клеток. Это как раз те сигналы, которые видно во время исследований мозга. Небольшое количество электроэнергии, когда-то полученное с помощью чувств из внешней энергии, постоянно вырывается из нашего черепа. Это всё, правда, очень далеко от теории Курцвейла.

Другой критик ставит под вопрос «теорию мозга» Курцвейла. Как раз ту теорию, которая и позволяет предположить центральную для сингулярности идею появления гибрида биологического и технологического интеллектов. Философ и психолог Коллин Макгинн написал в The New York Times Review of Books негативный отзыв на книгу Курцвейла «Как создать мозг. Открытие секрета человеческой мысли». В этом обзоре Макгинн показывает нам, что теория Курцвейла строится на ошибочной теории паттернов в человеческом мозге.

Макгинн утверждает, что Рэй Курцвейл представил всё многообразие когнитивных процессов как совокупность паттернов, которые понятны машинам. «Курцвейл, не осознавая сделанную ошибку, перешёл от паттернов как стимулов к деятельности к паттернам как интеллектуальным сущностям в себе», — пишет Макгинн (при этом критик позитивно оценил книгу Курцвейла «Век духовных машин»).

Лауреат Пулитцеровской премии и автор классической книги о разуме и сознании «Гёдель, Эшер, Бах» Дуглас Хофштадтер также не фанат Курцвейла. О теориях изобретателя Хофштадтер пишет: «Чтение футуристов Рэя Курцвейла и Ганса Моравека — это, по моему мнению, очень странная смесь сильных и оригинальных идей с идеями просто сумасшедшими. Это как если бы взяли и смешали очень хорошую еду с собачьими экскрементами до такого состояния, когда нельзя отличить одно от другого. Это слияние мусора с хорошими идеями, в котором очень сложно отделить одно от другого, потому что они оба неглупые люди. Проблема в том, что нет никакой дискуссии о том, хорошо ли это. Это всё "Давайте быстрее! Быстрее! Быстрее!" Но куда же вы идёте? Что вы хотите сделать? И я не вижу и следа таких нужных вопросов в этих книгах».

Сам Курцвейл ответил на всю критику, даже включив целую главу-ответ в «Сингулярность уже близко». Созданный им список претензий к теории сингулярности и закону ускоряющегося изменения включает «критику скептиков» (Люди, закрывающие книгу со словами: «Что-о-о?»), «критику от ошибок» (утверждения, что развитие технологий приближается к своему максимуму, и прогресс не сможет продолжаться, как предсказывает Курцвейл), и «критику от целого» (пересказ самого Курцвейла: «Машины представляют из себя жестко структурированные иерархии модулей, в то время как биология — система, в которой каждый элемент действует на остальные»). Это малая доля критики, на которую Курцвейл отвечает в своей книге.

Но, по моему мнению, у теории сингулярности есть одна большая концептуальная проблема. Курцвейл не замечает различий между биологической эволюцией и его версиями технологической и социальной эволюции.

Курцвейл построил систему, в которой биологическая эволюция, культурное развитие и технологический прогресс — части одной большой силы. Он совершенно не учитывает, что культурный и технологический прогресс — человеческие действия, тогда как эволюция — закон природы. Для него развитие технологий ничем не отличается от изменения природы, он видит их на одном графике.

Его тезис о сингулярности базируется на идее, что культура и технологии, которые произвели люди — часть того же процесса, что и тела, в которые они эволюционировали.

Курцвейл подкрепляет сингулярность «Законом об ускоряющейся отдаче», который говорит, что темпы развития растут экспоненциально и «технологическая эволюция — продолжение эволюции биологической». Также в книге используется идея эфемеризации, созданная автором Бакминстером Фуллером в фантастическом романе «Девять цепочек к Луне»: «Способность технологического прогресса делать всё больше с помощью всё меньших усилий до того момента, когда можно будет сделать всё, не делая ничего» — и идея нэгэнтропии или постепенного исчезновения беспорядка для достижения стабильности.

Ключевой аспект закона об ускоряющейся отдаче — его природное происхождение. Курцвейл рассматривает его как биологическую эволюцию, происходящую вне зависимости от желаний человека. Но как прогресс может быть природным, если люди — те, кто делают все инвестиции в технологии? Теоретик этого вопроса и человек, на которого Курцвейл ссылается, как на первого теоретика сингулярности, — потомок президентов США Джона Адамса и Джона Куинси Адамса историк Генри Адамс.

В статье «Закон ускорения» Адамс пишет: «Мировое производство угля, грубо говоря, удваивалось каждые десять лет с 1840 по 1900 год. Речь идёт не о количестве, а о выделенной электроэнергии, так как в 1900 год из тонны угля можно было получить в три-четыре раза больше энергии, чем в 1840 году».

Адамс видит технологический прогресс настолько похоже на «экспоненциальный рост» Курцвейла, что утверждает: «Закон ускорения, чёткий и постоянный как любой закон механики, не может расслабить свою силу так, чтобы подстроиться под потребности человека».

Адамс в своей статье о законах производства угля предвосхитил другую, часто цитируемую в кругах предпринимателей, идею о технологическом прогрессе и интегральных схемах в частности. Это также используемый Курцвейлом закон Мура, согласно которому количество транзисторов, размещенных на интегральной схеме, удваивается каждые два года.

Закон Мура используется в технологической культуре как объяснение технологического прогресса как такового (несмотря на то, что «прогрессом» называют любое изменение в технологиях). Ключевой параметр этой динамики — прогресс происходит вне зависимости от желаний людей.

Наблюдения Адамса о производстве угля и закон Мура объединяет идея, что технологический прогресс будет идти на всех парах, и неважно, хотят ли люди его или нет. Он не подстраивается под желания человека.

И так как этот самовоспроизводящийся прогресс чем-то похож на биологическую эволюцию, Курцвейл считает их одним и тем же.

В одной из глав своего трактата о сингулярности учёный пишет, что логический конец биологической эволюции — выживание сильнейших существ, а логический конец технологического развития, которое Курцвейл называет «эволюция» — достижение параметра «функция полезности». В дальнейшем Курцвейл соединяет биологическое и технологическое в одной концепции экспоненциального роста авторской переменной под названием «порядок».

В теории сингулярности порядок — информация, которая удовлетворяет цели. Переменная порядка — метрика, показывающая насколько хорошо информация подходит для нужной цели. Проблема только в том, что такая метрика не очень ясна и уж точно абсолютно не фальсифицируема.

То есть если можно «упорядочить» всё, что требуется для выбранной цели, как доказать, что метрика неверна? Возможно, поэтому основные критики Курцвейла — учёные, которые верят в принцип фальсификации (критерий научности знания).

Курцвейл даже пишет: «Для существования порядка нам нужна метрика "успеха", которая может быть индивидуально подогнана к любой ситуации». То есть «порядок» определяется «успехом», а «успех» определяется ситуативно тем, что нужно самому Курцвейлу.

По-видимому, для Курцвейла наиболее упорядоченный и успешный сценарий — создание гибрида человечества и технологий, обязательный на временной шкале технологического прогресса. Выходит, эволюция может значить всё, что Курцвейл хочет под этим видеть.

Если не верить в эти теории эволюции, то предложенная в теории сингулярности схема «экспоненциального роста» постоянно распадается. Начало экспоненциального графика «закона об ускоряющейся отдаче» — долгая биологическая эволюция человека, например, многовековое изменение структуры пальцев. Середина графика — социальное и культурное развитие, например, развитие сельского хозяйства, искусства и письменности, на которое требуется меньше времени чем на биологическую эволюцию. Последний этап — молниеносное в масштабах человеческой истории развитие компьютерных технологий.

В действительности график принимает экспоненциальную форму не из-за того, что люди в силу законов истории двигаются по пути «ускоряющейся отдачи», а из-за того, что Рэй Курцвейл расположил данные так, чтобы они отражали его теорию.

Нет сомнений, что исследовательская работа, которая определила книгу Курцвейла «Сигнулярность уже близко», также повлияла на его выдающийся вклад в развитие технологий. Но то, что человек очень умён, не значит, что он всегда прав. Сингулярность — отличная научная фантастика, но не более того.

#Будущее #будущее #прогресс #предсказания #Рэй_Курцвейл