Reducing Suffering

Большая часть помощи направляется к тем, кто живет сейчас или будет жить в самом ближайшем будущем. Однако стоит ли игнорировать интересы остальных будущих поколений всех тех существ, что будут страдать? Тобиас Бауман рассматривает потенциальные риски огромных страданий, сопутствующих дальнейшему научно-техническому прогрессу.

Стоит ли выступать за приостановку разработок ИИ? Сторонники паузы считают, что нынешняя безопасность ИИ далека от того уровня, который потребуется для сохранения контроля над ситуацией при значительном росте возможностей ИИ. Но Магнус Виндинг пишет, почему не так уж очевидно, что нам стоит выступать именно за паузу.

По мнению автора, аргументам в пользу правдоподобности “жесткого взлета” (hard takeoff) искусственного интеллекта — когда он стремительно и бесконтрольно наращивает возможности — уделяется слишком много внимания по сравнению с контраргументами. Из-за чего у нас могут сложиться слишком однобокие взгляды на то, как будет развиваться ИИ.

Задача согласования ИИ — это задача сделать так, чтобы мощный ИИ делал то, что люди хотят, чтобы он делал. Магнус Виндинг считает, что эта задача плохо определена и (по меньшей мере в этом смысле) ее нельзя решить. Есть две проблемы: непреодолимые ценностные разногласия между людьми и недоопределенность предпочтений любого отдельного человека.

Ле Гуин описала Омелас — рай, существующий за счёт ужасных страданий одного ребенка. Не все согласны оправдывать такой рай, но некоторые хотят как можно скорее колонизировать космос. Стоит ли это того, покуда наш мир — даже не Омелас, а нечто намного хуже? См. отрывок из книги «Effective Altruism: How Can We Best Help Others?» Магнуса Виндинга.

Что, если созданный людьми искусственный интеллект когда-нибудь получит способность к субъективным переживаниям и будет массово подвергаться страданиям? Этот риск «взрыва отрицательной феноменологии» и возможные стратегии его уменьшения рассматриваются в работе философа Томаса Метцингера, введение к которой мы приводим ниже.

Если где-то доходит до обсуждения прав машин с искусственным интеллектом, обычно фокус этих обсуждений падает на те из гипотетических машин, что подобны людям. Но не задираем ли мы планку слишком высоко? Об этом — в переводе эссе Джона Басла и Эрика Швицгебеля с Aeon.

Двести лет назад человечеству уже были знакомы мощные синтетические болеутоляющие средства и анестетики для хирургических операций. Однако мысль о том, что физическая боль может быть полностью изгнана из жизни большинства людей, казалась абсурдной. В наши дни большинство жителей технологически развитых стран воспринимает её отсутствие как должное,…

Различные случаи отказа от эксплуатации людей и других животных показывают, что технический прогресс, позволяя найти более эффективные решения соответствующих задач, вместе с этим приводит и к снижению числа страданий, требуемых для их решения. Но значит ли это, что так будет и дальше? Джим Бюлер оспаривает этот вывод.

Создание машин с интеллектом, превосходящим человеческий, может иметь огромные и в какой-то мере необратимые последствия. Нам следует хорошо подумать, в каком направлении мы хотели бы двигаться. Об этом — в переводе статьи Хью Прайса (2016) из Aeon.

Многие люди ожидают, что рост глобальной экономики в будущем ускорится, и темпы роста будут не просто значительно более высокими, чем сегодня, но даже на порядки выше.

Ниже некоторые из основных причин того, почему я не считаю взрывной рост наиболее вероятным вариантом будущего.

Приведет ли появление универсального (общего) искусственного интеллекта к технологической сингулярности? Ниже — перевод отрывка из книги «Reflections on Intelligence» (2016/2024) Магнуса Виндинга, посвященной настоящему и будущему искусственного интеллекта, где он критически рассматривает этот сценарий.