Технология, которая умнее нас: партнёр или повелитель?

Перевод статьи New York Times об одном из главных визионеров современной фантастики.

Вышло переиздание романа Вернона Винджа «Конец радуг», который принёс автору премии «Хьюго» и «Локус», а также премию Кэмпбелла. Сатирическая (анти)утопия о будущем, в котором технологическая сингулярность вот-вот случится, в 2006 году предсказывала повсеместное внедрение технологий дополненной реальности и гибель бумажных книг к 2025 году.

Если верить профессору математики Винджу, у нас осталось всего шесть лет до момента, когда технологии войдут в нашу жизнь так прочно, что точку выхода из Матрицы мы уже не найдём. Похоже на правду: роботы Boston Dynamics приближаются к полной самостоятельности, а нейросеть ещё три года назад написала новую картину Рембрандта, которую непросто отличить от оригинала. И таких примеров можно привести ещё немало.

В честь релиза переиздания «Конца радуг» мы подготовили перевод статьи Джона Тирни для New York Times о будущем и его угрозах, которые предсказывает Виндж.

По версии Вернора Винджа, в Южной Калифорнии 2025 года есть Фэрмонтская школа, чей девиз таков: «Изо всех сил стараемся не устареть». Возможно, звучит не слишком вдохновляюще, но для многих фанатов доктора Винджа это самая амбициозная — и, вероятно, недостижимая — цель любого представителя нашего вида.

Доктор Виндж — математик и специалист по информатике из Сан-Диего, чьи работы в жанре научной фантастики получили пять премий «Хьюго», а также множество положительных отзывов от учёных, оценивших научную правдоподобность его произведений. Он создаёт одни из лучших космических опер, но подозревает, что межгалактические саги вскоре могут также устареть, как их герои-люди.

Эта проблема была описана в фундаментальном эссе доктора Винджа «Грядущая технологическая сингулярность» ещё в 1993 году. Эссе предсказывало, что к 2030 году компьютеры станут столь развитыми, что появится новый тип разума: сверхразум.

Доктор Виндж сравнил эту точку в истории с точкой сингулярности на краю чёрной дыры: граница, за которой старые правила больше не применимы. Постчеловеческий разум и технологии станут для нас также непознаваемы, как непостижима человеческая цивилизация для золотой рыбки.

Сингулярность часто называют раем нердов, но доктор Виндж не ожидает вечного блаженства. Информатик в нём, может, и восхищён технологическими чудесами, но романист представляет катастрофы и переживает о судьбе не слишком-то чудесных людей вроде Роберта Гу, протагониста романа доктора Винджа «Конец радуг».

Роберт — английский профессор и знаменитый поэт, медленно умирающий от болезни Альцгеймера в доме престарелых. В 2025 году, когда сингулярность уже совсем близка, а технологии творят настоящие чудеса, большая честь его умственных способностей восстанавливается; его 75-летнее тело становится моложе; даже морщины на его лице исчезают.

Но Роберт настолько потерян в этом новом мире, что вынужден вернуться в школу, чтобы научиться базовым навыкам выживания. «Википедия», Facebook, Second Life, World of Warcraft, iPhone, SMS — всё это стало лишь чудными древними технологиями в век, когда каждый человек постоянно подсоединён ко всем и всему.

Благодаря специальным контактным линзам, встроенным в одежду компьютерам и разбросанным повсюду геолокационным сенсорам вы видите постоянный поток текста и визуального контента, наложенный прямо на реальный мир.

Болтая с крайне правдоподобной виртуальной копией далёкого друга, прогуливающейся рядом с вами, вы можете подкорректировать пейзаж по вашему общему вкусу: например, добавить средневековые башенки на здания. И в это же самое время вы оба незаметно друг для друга взаимодействуете с огромными человеческими и компьютерными сетями.

Для Роберта, мизантропа, едва освоившего электронную почту в своей прежней жизни, этот сетевой мир — ад многозадачности. Он обращается к привычному для себя месту, библиотеке Гейзеля, бывшей когда-то центром интеллектуальной жизни Калифорнийского университета в Сан-Диего. Теперь же люди посещают библиотеку так редко, что бумажные книги планируется уничтожить, чтобы освободить место для продвинутой версии тематического парка виртуальной реальности.

В библиотеке он встречает несколько таких же восстановленных с помощью медицины олдфагов, которые по-прежнему читают книги и пользуются древними устройствами вроде ноутбуков. Они называют себя «Заговором старейшин» и планируют операцию по спасению бумажной библиотеки, параллельно пытаясь понять, годятся ли их умения хоть на что-то в этом новом мире.

63-летний доктор Виндж понимает боль этих стариков хотя бы потому, что его книги также находятся в этом здании. Он провёл меня в комнату совещаний «Заговора старейшин» в библиотеке и рассказал о собственных переживаниях насчёт 2025 года: будут ли люди всё ещё читать книги, и повлияет ли компьютерная эра на интеллектуалов также, как промышленная революция на луддитов.

Это неуютный образ, но доктор Виндж считает его одним из наименее неприятных сценариев будущего: усиление интеллекта, при котором человечество планомерно умнеет, сплавляя воедино разум людей и компьютеры; возможно, даже внедряет компьютеры напрямую в мозг.

Альтернативой усилению интеллекта, предполагает он, может оказаться триумф искусственного интеллекта, когда компьютерный разум в разы превосходит человеческий. Если это случится, говорит доктор Виндж, сверхразумные машины не станут ограничивать себя работой на хозяев-людей, как и не будут упрятаны в лабораториях.

Он писал в своём эссе 1993 года: «Представьте, что вы привязаны к дому, а доступ к окружающему миру ограничен и осуществляется через ваших хозяев. Если бы эти хозяева соображали, скажем, в один миллион раз медленнее, чем вы, практически нет сомнений, что через несколько лет (в вашем времяисчислении) вы бы дали им “полезный совет”, который бы случайно вас освободил».

Чтобы избежать такого сценария, доктор Виндж призывает людей к слиянию с компьютерами. В финале «Конца радуг» даже протагонист-технофоб оказывается в гармонии с механизмами. И есть основания полагать, что сингулярность стала реальностью в виде сверхразумной сети из людей и компьютеров.

Или нет. Возможно, этот новый богоподобный разум, дирижирующий мировыми событиями, полностью искусственный. Доктор Виндж говорит, что специально оставил простор для сомнений.

И что же случится, если машины встанут во главе цивилизации? Доктор Виндж говорит, есть вероятность, что искусственные постлюди будут использовать нас, как мы когда-то использовали ослов и рогатый скот.

Но он предпочитает надеяться, что они скорее окажутся энвайронменталистами, которые решат защищать более слабые виды, пусть даже и из эгоистических соображений. Доктор Виндж представляет, как постлюди спорят, используя свои грандиозные умы для аргументации:

Материал подготовлен редакцией издательства интеллектуальной фантастики fanzon.

#фантастика