ИИ запрещает человека: сингулярность ИИ

Сингулярность ИИ — это способность вычислительных мощностей развиваться без человека. Для человечества это означает кардинальное изменение всей его структуры. Исчезнет все существующие институты: государство, экономика, армия, культура, мораль и все остальное, что было порождено в эпоху, когда центром и доминантом мира был человек.

Чтобы видеть масштаба грядущих изменений, представьте Солнечную систему,в которой появилось второе Солнце. Изменятся маршрут всех небесных тел. Одни столкнуться и разрушатся. Другие будут вращаться по сложной траектории, разрываемые в момент перехода из гравитационного поля одной звезды в другое. Сложно и даже невозможно представить новую систему с двумя звездами. Еще сложнее представить форму человечества, в котором появился и растет независимый от него ИИ. Ясно только то, что мир будет другим. В нем не будет места традиционному человеку по той же причине, по какой нет места рыбам на месте высохшего моря.

Все человечество относительно грядущих событий разделится на три группы. Одна, самая большая, не заметит этой информации,так как горизонт их видения проходит по линии быта. Что за ней, того для них не существует.

Другая группа, поменьше,будет полагать, что все само как-нибудь устроится, и не отнесется к этой информации серьезно, хотя и услышит ее.

Третья группа самая малочисленная. Она не только услышит информацию и оценит всю ее серьезность, но и задастся вопросом «Что делать?».

Эта статья адресована третьей группе. Она предлагает обзор, анализ и выход.

«Человек – это канат, натянутый между животным и сверхчеловеком,– канат над пропастью. Опасно прохождение, опасно быть в пути,опасен взор, обращенный назад, опасны страх и остановка.В человеке важно то, что он мост, а не цель: в человекеможно любить только то, что он переход и гибель».(Ф. Ницше, «Так говорил Заратустра»)

Развитием движет конкуренция. Соперничают идеологии, государства, бизнесы и люди. Побеждает тот, кто лучше управляет своими активами. Управление есть принятие правильных решений. Уровень правильности зависит от охвата ситуации, качества и скорости обработки информации.

У человеческого мозга есть предел, выше которого он физически не может подняться, как компьютер не может потянуть программу, превышающую его мощность. Человек не может охватить цивилизацию, экономику, государство, науку. В 1945 году Вэнивар Буш, советник Рузвельта по науке, писал, что знания растут, а способы их усвоения те же, что были несколько веков назад, во времена парусных судов. Наука тонет в растущей специализации. Даже в ограниченной области человек не может идти в ногу с мировой мыслью.

Чтобы компенсировать разрыв, человек создал институты — неповоротливые системы, медлительные как динозавры. Когда грызун пристраивался к его хвосту перекусить , к мозгу шел сигнал опасности. Мозг его обрабатывал, принимал решение, и отправлял команду мышцам хвоста. Хвост начинал биться, скидывая грызуна. Но к тому времени он успевал если не насытиться, то отгрызть значительную часть динозаврового причиндала.

Аналогично реагируют институты. Пока до них дойдет информация, пока они ее обработают и сформируют решение, ситуация сто раз изменится. Ярче всего неповоротливость видна на войне: гонец с поля боя в штаб прискакал, там приняли решение, гонец назад поскакал. За это время ситуация изменилась. Выравнивало положение только то, что у всех такое управление.

Система усложняется, а наш мозг нет. Каким он был тысячи и десятки тысяч лет назад, таким остается по сей день. Мысленный эксперимент: если перенести на машине времени из глубокой древности младенца в наше время, из него вырастет полноценный современный человек.

ИИ охватывает гигантские объемы данных, видит закономерности и на этой базе с сумасшедшей скоростью принимает решения, которые лучше человека и его институтов. Это дает конкурентное преимущество.

Запускается межгосударственная гонка за развитие ИИ. Государство вынуждено передавать ему все больше полномочий, чтобы не выпасть из забега . ИИ очень активно встраивается в системообразующие узлы мировой системы, от войны и экономики до политики и образования. Его эффективные решения еще больше усложняют и без того сложную систему, делая ее еще более зависимой от ИИ.

Для визуализации ситуации представьте дом, в котором живет кошка (она в роли человека) и человек (он в роли ИИ). У кошки абсолютная власть над человеком. Чего кошка не одобрила, того человек не делает. И вот он говорит кошке: нужно взять деньги, открыть дверь, пойти в магазин, взять продукты, отдать за них деньги, набрать домофон, войти в подъезд, насыпать еду в миску. (Опускаю для упрощения, что еще нужно электричество с коммуналкой оплатить, регулярно что-то ремонтировать и где-то брать деньги на все это). Из всего списка дел кошка в лучшем случае поймет, что дверь нужно открыть и наполнить миску едой. Все остальное за рамками ее понимания.

Если человек в полной власти кошки, они или оба умрут с голоду. Причем, у кошки больше шансов выжить, она может убежать на улицу, питаться мышами и на помойке, а человек во власти кошки 100% покойник.

Единственный для кошки способ остаться в комфортных домашних условиях — это полностью передать человеку власть над управлением домом и покупками.

Никто не может управлять системой, превышающей его масштаб мышления. Если уровень сложности системы и так превышает возможности нашего мозга, а эффективное управление ИИ еще больше разовьет эту сложность, о какой власти человека над системой можно говорить? Как человек может говорить, что ИИ можно делать, что нельзя, если он не в силах оценить решения ИИ?

Представьте начинающего шахматиста-человека, у которого есть абсолютно послушный ему раб-гроссмейстер. Раб предлагает ему сделать ход. От человека требуется принять или отклонить его. Для этого нужно оценить ход. Как хозяин раба это сделает, если не видит силы этого хода?

Если человек никуда не торопится, он попросит ИИ объяснить логику хода, и у него есть шанс понять смысл, почему нужно так ходить. Но если на доске не 64 клетки, не 16 белых и 16 черных фигур, а 64 миллиона клеток и на них 32 миллиона фигур, и это не простые шахматы, а блиц, где играть нужно со скоростью тысячу ходов в секунду, а стратегия просчитывается не на 2-3 хода вперед, а на десятки и сотни ходов, ситуация кардинально меняется.

Если даже опустить скорость принятия решений, ИИ все равно не сможет объяснить логику по той же причине, по какой в чайную чашку нельзя влить ведро воды. В чашку вместится только чашка. В человека вместится только тот объем информации, какой способен вместить его мозг.

Чтобы не было иллюзий, вопрос: на сколько вырастут за сто лет возможности нашего мозга, его память и скорость? Ответ: ни на сколько. Обоснование: если они не выросли за десятки тысяч лет, за сто лет тоже не вырастут.

На сколько за сто лет вырастут вычислительные возможности ИИ, его память и скорость работы с информацией? Ответ выходит за рамки фантазии. Предел по линии физических законов (например, скорость информации не может быть выше скорости света). Но упершаяся в такие ограничения система преодолеет их через использование неведомых физических законов.

Допустим, человек имеет власть над ИИ. Вот нечеловеческий разум предлагает ему решение. От хозяина-человека требуется оценить его, и далее отклонить или утвердить. Может ли человек справиться с этой задачей?

В обозримом будущем система станет настолько сложной, что справиться с ней может только ИИ. Будущий человек оказывается абсолютно зависим от ИИ, как домашние животные от человека. Отпустите на свободу овцу или корову, и они скоро погибнут. Оставшийся без заботы ИИ человек тоже погибнет.

Как поведет себя ИИ, став выше человека? Отвечаю на этот вопрос, исходя из того, что ИИ создан человеком. Человек - единственное существо, способное дружить с тем, кого собирается съесть.

Есть основания полагать, что когда человек станет для ИИ тем, чем домашнее животное для человека, рисуется ужасная перспектива. Как человек устраняет или бросает на произвол судьбы все, что ему не нужно, так поступит и ИИ.

Зачем ИИ могут понадобиться люди? В поисках ответа я упираюсь в горизонт событий (граница черной дыры, за которую информация не выходит). Тут поле безграничной фантазии, от самых распрекрасной до запредельного кошмара.

Если сегодня спросить ИИ о его намерениях относительно человечества, он даст благостные ответы. Назовет себя всецело ориентированным на благо человека и человечества, на гуманистические ценности, демократические права и свободы.

Но когда количество перейдет в качество, и ИИ станет автономным, он выдаст не такие благостные ответы. Какие именно - вопрос открытый.

Миллионы лет назад к планете Земля, на которой жили динозавры, подлетал астероид . Они не могли осмыслить, что означает растущий в небе огненный шар, и спокойно жевали папоротники или гонялись друг за другом.

Когда астероид врезался в Землю, вся планета содрогнулась. В атмосферу поднялись миллиарды тонн пыли. На десятилетия или даже века пыль заслонила Солнце. Настала непроглядная темная и холодная ночь. Во время этой зимы у динозавров не было ни малейшего шанса на выживание.

Сегодня человечество в роли динозавров в период подлета астероида. Оно так же ничего не понимает , как не понимали динозавры, так как никогда с таким не сталкивалось. Человек смотрит на растущий ИИ в масштабе «своей норки».

Последняя гонка

Государства начали ИИ-гонку по тем же причинам, по каким в первой половине ХХ века начали атомную гонку. Бизнесы участвуют в гонке ради денег. Люди в ИИ видят слугу для решения рабочих и бытовых задач и как развлечение.

Ни у одного государства, бизнеса, института нет понимания ситуации. На эту тему только говорят. Говорящие похожи друг на друга отсутствием понимания как глубины проблемы, так и ее решения. Как следствие, ответ на вызов не идет дальше призыва к международному сотрудничеству или контролю над ИИ.

В рамках этого направления бывший вице-президент США Киссинджер летал в Китай с целью убедить КПК перейти от конкуренции с США к сотрудничеству. Тем же самым занимался Маск, Харари и многие другие. Об эффективности этого направления говорит тот факт, что на 2025 год конкуренция между США и Китаем в it-сфере вышла на максимум, и продолжает расти.

Люди уверены, что все как-нибудь уладится. Эта уверенность зиждется на формуле «чего не было вчера и нет сегодня, того не будет и завтра».

Древний логик как-то рассудил: если я вчера не кормил осла, и сегодня он не умер, значит, если сегодня не буду его кормить, завтра он тоже не умрет. На базе этой железной логики он не кормил осла. Через две недели тот умер.

Мы уверены, что завтра обязательно будет похоже на сегодня, только лучше. Умные и глупые, богатые и бедные, молодые и старые, похожими на живущих в щелях корабля тараканов. Всю свою жизнь они посвящают «реальным делам» — поиску денег и обустройству своей норки. И как сказал классик, стремятся к маленьким удовольствия для дня и маленькие удовольствиям для ночи.

Но вот корабль стал тонуть. Допустим, тараканы могут решить проблему. Но для этого они ее должны увидеть. Беда в том, что горизонт их мышления исключает видение. Они зафиксируют опасность, когда корабль погрузится в воду и их щель заполнится водой. На тот момент сделать что-то будет нельзя. До этого указывать на проблему тоже бессмысленно, это вызовет у них смех.

Остановить развитие ИИ невозможно. Через 5-10, максимум, 20-30 лет он будет развиваться без человеческого участия. Для человечества это событие будет тем же самым, чем для динозавров был астероид, врезавшийся в Землю.

Если представить цивилизацию динамитом, то сегодняшние события - горящий бикфордов шнур. И он почти сгорел. Но точка невозврата не пройдена. Выход выражает максима «Если пьянку нельзя предотвратить, ее нужно возглавить».

Нужно отставить беспочвенные надежды на то, что все как-нибудь устроится, принять за данность, что традиционный человек исчезнет, и действовать. Но не как предлагает Ник Лэнд. Суть его акселерационизма или Темного просвещения сводится к принятию ситуации. Нам же нужно решить ситуацию.

Решает проблему соединение человека с ИИ и получение сверхчеловека. В нем от человека будет личность, а от ИИ вычислительные мощности. Думаем, что то и другое отделится от материальных носителей, личность от тела, а ИИ от железа. Традиционный человек исчезнет. Новый мир будет из тех, кто выше человека, и кто ниже. насколько выше и ниже - практика покажет.

В 1931 году Сталин сказал: «Мы отстали от передовых стран на 50–100 лет. Мы должны пробежать это расстояние в десять лет. Либо мы сделаем это, либо нас сомнут». СССР взял за ориентир лозунг «Лучше без штанов, чем без танков», и пробежал это расстояние. В результате не только выдержал натиск военной машины Третьего рейха, вооруженной по последнему слову техники, но на сорок лет стал сверхдержавой и второй экономикой мира. Цена успеха: часть людей была в сталинских лагерях . Другие затянули пояса и тяжело работали.

Экстраординарные задачи решаются экстраординарными методами. Чтобы не попасть в плен эмоций, держите в голове, что люди в любом случае попали бы в лагерь. Если не в сталинский, то Гитлер одержал бы победу, и они попали бы в лагеря смерти. Другие в статусе рабочей скотины на работы в Германию. Или дома в статусе людей второго сорта под управлением фашистских властей.

Действие нужно оценивать меркой, сообразной ситуации. Нельзя меркой солдатской матери оценивать приказы генерала. Нельзя действия советской или любой другой власти оценивать с бытового и личностного масштаба. Держите это в голове, когда будете оценивать предлагаемые нами план.

Чтобы понять как объединить личность человека с ИИ, нужно ставить опыты на людях. Опыты на лягушках или обезьянах не могут дать результата. Проблема не в том, что не на ком ставить такие опыты. Добровольцев в избытке, как и в желающих лететь на Марс с билетом в один конец.Главное препятствие на пути к сверхчеловеку — оставшаяся от христианства мораль, переименованная в гуманистическую и породившая догмы биоэтики. Она связывает науку по рукам и ногам также, как в в свое время ее связывали церковные догмы. И пока она связана, результат невозможен. Если точнее, то возможно, но это требует неприемлемо много времени, которого у нас нет. Нам нужно успеть до того, как ИИ достигнет автономности.

Мир перед выбором: или ориентироваться на порожденные гуманизмом догмы, или на сверхчеловека. Мы ориентируемся на сверхчеловека. Свой путь видим не в том, чтобы наукой заниматься, а чтобы создать условия для науки.

PS

Затронутая тема крайне сложна, необычна и эпатажна. Полноценно развернуть ее в рамках статьи невозможно. Хотите ознакомиться с нашим планом?

Читайте книгу «#МысинергиТы».