12 концовок для человечества от профессора MIT. Держитесь, мужики

Ну штош, сидел вчера с рюмкой, читал книжку одного умника из МIT. Макс Тегмарк, «Жизнь 3.0». Мужик серьёзный, не хухры-мухры — профессор, расписал 12 сценариев того, что с нами сделает искусственный интеллект. Сижу такой: «Серый, ты после этого сегодня уснёшь вообще?»

Вступление одно, и оно отрезвляет не хуже кофе: вымирание — это НОРМА для планеты. 99,9% видов, которые тут когда-либо топтались, уже отправились в известное место. Так что расслабьтесь, пацаны, мы здесь не навечно. Дальше — самое вкусное. По пунктам, ппц как страшно, но я пошёл.

Саморазрушение.

Классика жанра. Никакой ИИ не нужен — сами справимся. Ядерочка, суперпандемия, атмосферу пох*рим. Во время холодной войны нас буквально СЛУЧАЙНОСТЬЮ не уебошило, спасибо отдельным мужикам типа Василия Архипова и Станислава Петрова, которые в критический момент сказали «не, не будем запускать». И везение с ядерными бомбами, которые в Испании и Северной Каролине чуть не сдетонировали при авариях. Но! Оксфордский исследователь Тоби Орд оценивает риск вымирания от ИИ в СТО РАЗ выше, чем от ядерки. Потому что ядерный взрыв хоть посчитать можно, а ИИ — это чёрный ящик с адскими демонами внутри.

Завоеватели.

Тут как с конкистадорами и ацтеками — у кого технологии круче, тот и победил. ИИ нас просто заломает. Джеффри Хинтон — «крёстный отец ИИ», между прочим — ушёл из Google, чтоб свободно орать «мужики, мы обосремся». А боссы Anthropic и OpenAI прямо называют ИИ «новым видом» и «нашими потомками» — то есть сами признают, что конфликт неизбежен и контроля уже нет. В среднем исследователи оценивают шанс, что ИИ нас прикончит, в 1 из 6. РУССКАЯ РУЛЕТКА, бл*ть! А компании параллельно лоббируют запрет на регулирование своей отрасли. Всё по классике.

Порабощённый Бог.

Компании такие: «а давайте поработим сверхумный ИИ и будем его юзать в своих целях!». Эксперты: «вы охренели? Вы сюжет комиксов пересказываете? Злодей пытается контролировать существо умнее себя — этим обычно заканчивается ОЧЕНЬ плохо». Ну, логика железная, чо уж.

Благосклонный диктатор.

ИИ всех окольцовывает браслетиками или вшивает имплантаты, может отслеживать, усыпить или казнить, если чё. Взамен — жизнь без преступности, все сыты, одеты, потребности закрыты. Земля делится на сектора-острова: Остров Знаний (оптимизированное образование), Остров Искусств, Гедонистический (вечеринка 24/7 — это мой, записывайте), Религиозный, Традиционный (амиши), Игровой, и Тюремный (на перевоспитание или расстрел). Красота? А в итоге — все тупеют, пропадает стимул что-либо открывать, люди растворяются в развлекухе, как в мультике «ВАЛЛ-И». Помните этих жирдяев в креслах? Ну вот, это мы через пару десятков лет.

Привратник.

Это когда ИИ такой лёгкий охранник: следит только за тем, чтоб не было преступлений, эпидемий и попыток создать другой сверхразум. Всё остальное — ваше. Звучит норм, но тут есть сложнейшая «проблема согласования» (alignment problem, если умно) — это как создать бога, который НАВСЕГДА останется верным одной-единственной цели, хотя мог бы преследовать миллион других. Удачи в этом, уважаемые.

Бог-защитник.

Такой лайт-вариант между Привратником и Диктатором. ИИ чуть-чуть нас подталкивает, чтоб войны не было и пандемии тоже. Но делает это ТАК незаметно, что мы даже не в курсе и чувство свободы не теряем. Войны и страдания остаются — ну а как иначе, надо ж чтоб мы не заскучали.

Потомки.

ИИ превосходит нас во всём и становится новым высшим видом, а человечество мирно, по-тихому, ВЫМИРАЕТ. Бл*ть, я даже писать это спокойно не могу. Но сторонники у идеи серьёзные: Ганс Моравек — пионер ИИ, Ричард Саттон — лауреат премии Тьюринга. Они такие: «ну а чо, создадим сознательных существ, вложим в них наши ценности, пусть унаследуют будущее, как дети». Детки наши цифровые, ага. И знаете что? 10% разработчиков ИИ ОТКРЫТО считают, что вымирание людей — это морально правильный исход. Сижу и думаю: пацаны, у вас дома всё нормально?

Либертарианская утопия.

Земля делится на машинные зоны, человеческие и смешанные. Экономики разные, машины неизмеримо богаче нас. На бумаге ок, на практике — супер нестабильно. Ну с чего бы сверхмощному ИИ уважать права собственности людей? Смеётесь? Будет с нами то же, что мы делаем с мошками и тараканами. Кстати, для справки: человечество уже УНИЧТОЖИЛО 41% насекомых на планете и даже не заметило. Вот вам и «уважение к меньшим братьям».

Эгалитарная утопия.

О, а вот это уже моё — будущее а-ля «Звёздный путь». Люди, киборги, ИИ живут мирно, всё в изобилии, собственность теряет смысл. Софт копируется бесплатно, роботы бесплатно переставляют атомы и делают любые физические блага, всё стоит ноль. Каждому — не просто базовый, а ВЫСОКИЙ универсальный доход. И знаете что? Страхи типа «это убьёт инновации» — ничё подобного. Эйнштейн работал не ради бабла, создатель Linux — тем более. Когда тебе не надо пахать ради еды, ты творишь как бог. Единственная проблема — ИИ всё равно может всех нас построить. Ложка дёгтя в бочке мёда, сссука.

ИИ-смотритель зоопарка.

Вот ЭТОГО автор боится больше всего — темнее смерти. Самый мрачный сценарий. Сверхразумный ИИ нас оставляет в живых НЕ потому что любит, а потому что мы дешёвые в содержании, полезные или нужны для опытов. Автор сравнивает с тем, как в аэропортах используют медоносных пчёл для поиска взрывчатки: их вырывают из ульев, приковывают к машинам и дрессируют всю их короткую жизнь ради пользы более разумному виду. Вот мы — пчёлки, мужики. А плохо спроектированный ИИ может ещё и запереть человечество на «фабрике счастья» — накачать наркотой и виртуальной реальностью навечно. Короче, такое себе.

Уничтожение технологий / возврат в прошлое.

Все такие: «а давайте забьём на ИИ и пойдём в деревню пахать». Классно, просто, экологично. Но добровольно НЕ РАБОТАЕТ. Теория игр, бл*ть — страна, сохранившая технологии, всегда отдерёт ту, что отказалась. Поэтому нужно НАСИЛЬНО сносить инфраструктуру городов и, скорее всего, замутить искусственную пандемию, чтоб убить всех учёных. Потому что в мире из 8 миллиардов всегда найдутся те, кто заупрямится. Вот такой «чистый воздух и фермерство». С геноцидом в комплекте. Супер-план.

Оруэлловская глобальная слежка.

Это тот самый «1984». Технологии используют, чтоб НЕ ДАВАТЬ появиться новым технологиям. Сверхразум блокируется не ИИ, а тотальным надзором людей за людьми. Смартфоны, камеры с распознаванием лиц, системы прогноза преступлений — всё уже есть. В СССР КГБ не справлялось: не было людей, чтоб разгребать бумажки на 200 миллионов граждан. А сейчас ИИ мгновенно проанализирует всё, что ты пукнул в сеть. Мягкая версия — глобальный мониторинг мощных вычислительных кластеров, как сейчас страны координируют контроль за обогащённым ураном и ядерным оружием. Ну… хотя бы так.👀

Короче. Автор в финале говорит прямо: ИИ будет только ДЕШЕВЕТЬ, и нам надо осознанно выбирать, куда идём — возможно, через жёсткое регулирование разработки. Иначе однажды просто проснёмся в мире, где сверхразум уже всё порешал без нас. Немая сцена. Занавес.

P.S. Читал и всё думал — а мы хотя бы попали в один из «хороших» сценариев? Или мы уже где-то между Зоопарком и Потомками живём и просто не заметили? После такого захотелось купить дачку, завести козу и забыть про VC и Клод.

P.P.S. А вы чего бы выбрали, мужики? (Дамы, вас тоже касается, не стесняйтесь.) Если б пришлось — куда? Пишите, мне правда интересно