Футурология

Различные случаи отказа от эксплуатации людей и других животных показывают, что технический прогресс, позволяя найти более эффективные решения соответствующих задач, вместе с этим приводит и к снижению числа страданий, требуемых для их решения. Но значит ли это, что так будет и дальше? Джим Бюлер оспаривает этот вывод.

Многие люди ожидают, что рост глобальной экономики в будущем ускорится, и темпы роста будут не просто значительно более высокими, чем сегодня, но даже на порядки выше.

Ниже некоторые из основных причин того, почему я не считаю взрывной рост наиболее вероятным вариантом будущего.

В мае 2015 года Питер Диамандис, основатель Singularity University, опубликовал в издании Singularity Hub манифест "Мир в 2025 году: 8 предсказаний". Обещали нам триллион сенсоров и "совершенное знание", компьютер за $1000 с мощностью человеческого мозга, JARVIS вместо Siri. Диамандис пи…

Издание 2024 года подробно рассказывает о всех ведущих сферах ИИ, рисках, проблемах и возможных путях решения.

Большая часть помощи направляется к тем, кто живет сейчас или будет жить в самом ближайшем будущем. Однако стоит ли игнорировать интересы остальных будущих поколений всех тех существ, что будут страдать? Тобиас Бауман рассматривает потенциальные риски огромных страданий, сопутствующих дальнейшему научно-техническому прогрессу.

По мнению автора, аргументам в пользу правдоподобности “жесткого взлета” (hard takeoff) искусственного интеллекта — когда он стремительно и бесконтрольно наращивает возможности — уделяется слишком много внимания по сравнению с контраргументами. Из-за чего у нас могут сложиться слишком однобокие взгляды на то, как будет развиваться ИИ.

❗ ВАЖНО:

Что, если созданный людьми искусственный интеллект когда-нибудь получит способность к субъективным переживаниям и будет массово подвергаться страданиям? Этот риск «взрыва отрицательной феноменологии» и возможные стратегии его уменьшения рассматриваются в работе философа Томаса Метцингера, введение к которой мы приводим ниже.

Страшилки о бунте ИИ — от «Терминатора» до панических прогнозов Илона Маска — игнорируют фундаментальные ограничения технологий. Разберем, почему нейросети не станут Скайнетом, а их реальные угрозы куда прозаичнее.

Двести лет назад человечеству уже были знакомы мощные синтетические болеутоляющие средства и анестетики для хирургических операций. Однако мысль о том, что физическая боль может быть полностью изгнана из жизни большинства людей, казалась абсурдной. В наши дни большинство жителей технологически развитых стран воспринимает её отсутствие как должное,…

Создание машин с интеллектом, превосходящим человеческий, может иметь огромные и в какой-то мере необратимые последствия. Нам следует хорошо подумать, в каком направлении мы хотели бы двигаться. Об этом — в переводе статьи Хью Прайса (2016) из Aeon.

Приведет ли появление универсального (общего) искусственного интеллекта к технологической сингулярности? Ниже — перевод отрывка из книги «Reflections on Intelligence» (2016/2024) Магнуса Виндинга, посвященной настоящему и будущему искусственного интеллекта, где он критически рассматривает этот сценарий.