«Жизнь 3.0: быть человеком в эпоху искусственного интеллекта» — ключевые идеи книги Макса Тегмарка Статьи редакции

Обзор не изданной на русском языке книги Макса Тегмарка о влиянии искусственного интеллекта на будущее, перспективах развития высоких технологий и огромных возможностях и рисках, которые в них заложены.

Обзор подготовила команда сервиса ключевых идей из литературы по бизнесу и саморазвитию MakeRight.ru.

Чтобы проиллюстрировать возможные пути развития искусственного интеллекта, Макс Тегмарк прибегает к художественному вымыслу. Он начинает книгу с рассказа о том, как в крупной компании по инициативе руководства была собрана команда под названием «Омега», работающая над созданием общего искусственного интеллекта, способного выполнять те же задачи, что и человек.

Вскоре команда добилась своего — первый общий искусственный интеллект получил имя Прометей. Он постоянно обучался чему-то новому, улучшал свои способности, хотя отставал от людей в некоторых областях, в том числе в социальных навыках. Но это не тревожило его создателей. Они решили усовершенствовать конкретные возможности Прометея — таким образом, чтобы он сам мог программировать системы искусственного интеллекта, самостоятельно улучшая себя и делая это намного быстрее, чем человек.

Вскоре создатели закачали в него огромный объём информации, чтобы он мог обрабатывать её и учиться. Затем они стали успешно использовать обученного Прометея для зарабатывания денег, в том числе для создания мультфильмов.

Пробные мультфильмы Прометея были неуклюжими, как будто их делал ребёнок, но он стремительно учился и уже через несколько дней стал создавать продукцию, от которой невозможно было оторваться. Сюжеты фильмов были умнее и интереснее голливудских, вскоре их смотрели почти во всём мире, и доход компании существенно увеличился.

С помощью Прометея «Омега» создала собственную бизнес-империю — искусственный интеллект анализировал данные и выдавал на их основании прогнозы и планы, далеко опережающие возможности человека. Параллельно он улучшал собственное программное обеспечение и проектировал «железо», которое могло оптимально отвечать этим программам.

Но компания опасалась, что Прометей вырвется на свободу, и не давала ему выход в интернет. «Омега» стала производить лучшее в мире компьютерное оборудование и стремительно улучшала технологии, внедряя во все сферы деятельности человека роботов. За короткое время они вытеснили людей с рабочих мест в очень многих сферах промышленности, транспорта, торговли, строительства, сельского хозяйства и многих других.

При помощи Прометея «Омега» стала влиять и на общественную жизнь во всём мире. Искусственный интеллект давал компании советы по оптимальному использованию человеческих ресурсов, по использованию политиков на местах для проведения линии «Омеги». И вскоре их тайная медиаимперия решила, что готова к завоеванию всего мира с помощью суперинтеллекта Прометея.

Компания привлекала талантливых журналистов, вела расследования, разоблачала коррупцию в прямом эфире, раскапывала сенсации (всё это Прометей находил, анализируя загруженную в него информацию из сети, от которой по-прежнему был отлучён). Вскоре новая медиаимперия оттянула на себя всю зрительскую аудиторию и скупила разорившиеся новостные каналы, которые было некому смотреть.

Затем «Омега» сосредоточилась на смягчении международной напряжённости и разоружении — ядерные арсеналы начали сокращаться, противостояние великих держав — ослабевать. Вместо этого правительства разных стран начали уделять внимание изменению климата и новой энергетической инфраструктуре. Параллельно Прометей создавал онлайн-курсы, производя революцию в образовании.

Государственная власть и бизнес-элита ослабевали, не в силах конкурировать с Прометеем. Благодаря ему жизнь в мире улучшалась: расширялись возможности получения образования, росла инфраструктура, мировых конфликтов стало меньше, а высоких технологий — больше.

Но довольны были не все. С уменьшением конфликтов сократился оборонный бюджет, падал фондовый рынок, что грозило разорением не только крупным финансистам, но и обычным гражданам, планирующим будущую пенсию, разорялись инвестиционные фирмы — ведь их постоянно кто-то опережал.

«Омега» сосредоточилась на семи направлениях: демократия, налоговые сокращения, сокращения государственных социальных услуг, уменьшение военных расходов, свободная торговля, открытые границы, социально ответственные компании. Постепенно весь мир убедился, что социально ответственные компании лучше заботятся о людях, чем государственные структуры.

Вскоре благодаря усилиям «Омеги» и с помощью Прометея возникло подобие мирового правительства, в котором сосредоточилась вся власть. Как этой властью распорядится «Омега»? Какой у неё план?

Тегмарк считает, что описал будущее, причём не очень далёкое. Высокие технологии, особенно искусственный интеллект, дают нам безграничные возможности, но и таят угрозу. Они могут привести нас к невероятному процветанию — или спровоцировать глобальную катастрофу. Всё зависит от того, как мы ими распорядимся.

О том, какие возможности и угрозы связаны с развитием искусственного интеллекта, у автора есть несколько идей.

Идея №1: все формы жизни, известные современной науке, ограничены своими биологическими часами

Тегмарк рассказывает о том, как в результате Большого взрыва родилась наша Вселенная.

В начале было не слово, как сказано в Библии, а свет. Его порождали элементарные частицы, впоследствии появились слабые звуковые волны. Вселенная расширялась и охлаждалась, частицы объединялись в более сложные объекты. Возникли атомы, потом — первые звезды и галактики. Вселенная училась воспроизводить новые объекты.

Тегмарк считает, что жизнь можно рассматривать как самовоспроизводящуюся систему, определяющую программное и аппаратное обеспечение всех живых объектов.

Первые формы жизни (бактерии) не умели перепроектировать своё «программное обеспечение» и «оборудование», они зависели от своей ДНК. Им оставалось только изменяться с течением эволюции. Они относятся к так называемой жизни 1.0: «софт» и «железо» развиваются, но не разработаны.

Люди относятся к жизни 2.0: они могут менять свой «софт», непрерывно улучшая его, отчасти могут улучшить «железо», то есть повысить долговечность своего физического тела и возможности мозга, но тут их возможности сильно ограничены.

К «софту» относятся наши навыки, знания и умения. Основы закладываются с детства, но повзрослев, мы можем улучшить их по собственному усмотрению: выучить иностранный язык, освоить новую профессию. Поэтому мы намного умнее, чем представители жизни 1.0.

Есть ещё и жизнь 1.1, к которой можно отнести, например, мышей или других животных. Они могут освоить многие навыки, но не способны придумать собственный язык и что-то изобрести. А если нет языка, они не могут передать знания следующему поколению, и со смертью умной особи её навыки теряются для остальных.

А ещё жизнь 2.0 лучше приспособлена к окружающей среде. Если жизнь 1.0 попадает в изменённую среду обитания, адаптироваться к ней она сможет только спустя много поколений. Жизнь 2.0 при помощи «софта» приспосабливается очень быстро. Узнав, что у нас аллергия на какой-то продукт, мы избегаем его. У бактерий же устойчивость к антибиотикам развивается очень долго.

Когда в нашем «софте» появился модуль «язык», мы научились обмениваться информацией, хранить её в сети, чтобы в любой момент любой человек мог получить к ней доступ. И процесс совершенствования нашего «софта» и его модулей происходит непрерывно.

Но с нашим «железом» всё не так хорошо. И дело не только в конечности и кратковременности жизни. Наш мозг не может вместить всю Википедию, все научные знания, наши тела не умеют телепортироваться и путешествовать в космосе без скафандра, а под водой — без водолазного костюма. Это сильно ограничивает наши возможности, каким бы совершенным ни был наш «софт».

Хотя до некоторой степени, считает Тегмарк, нас и можно отнести к категории 2.1 — мы слегка продвинулись в аппаратных обновлениях, таких как имплантация изношенных суставов, зубов и кардиостимуляторов. Однако мы не можем продлевать жизнь до бесконечности, увеличить рост или повысить производительность мозга в несколько тысяч раз.

Идея №2: безграничные возможности будут свойственны жизни 3.0, не зависящей от своей биологии

Жизнь 3.0, считает Тегмарк, позволит людям проектировать не только «софт» но и «железо», прервав многовековую зависимость от эволюции.

Все три этапа жизни обладают способностью проектировать себя. Жизнь 1.0 обладает биологической способностью улучшать свои «софт» и «железо». Жизнь 2.0 проходит культурные этапы, улучшая себя и конструируя, но всё ещё сохраняя зависимость от собственной биологии.

А жизнь 3.0 (технологический этап) будет полностью свободна от этих ограничений, развивая своё программное и аппаратное обеспечение. И воплотится она в общем искусственном интеллекте. Когда же это произойдёт и к чему приведёт?

У искусственного интеллекта есть свои поклонники и противники. Одни страстно ждут его пришествия (их называют цифровыми утопистами), другие (техноскептики) считают, что создание искусственного интеллекта невозможно в обозримом будущем, и на это уйдёт столько времени, что нет смысла беспокоиться об этом в наши дни. Третьи полагают, что искусственный интеллект может и не быть дружественным, и нет никакой гарантии, что его появление пойдёт человечеству на пользу.

Сам Тегмарк, основавший вместе с единомышленниками некоммерческую организацию «Институт будущего жизни», считает, что развитие технологий и в частности искусственного интеллекта может дать шанс как для процветания, так и привести к самоуничтожению жизни. И потому нужно работать над созданием не просто искусственного интеллекта, а полезного искусственного интеллекта, чтобы снизить будущие возможные угрозы.

Это должен быть дружественный интеллект, чьи цели полностью совпадают с нашими. Представители движения beneficial-AI предполагают, что искусственный интеллект может появиться уже в ближайшие сто лет, но необходимо строго следить за исследованиями в этой области в целях безопасности.

Надо работать над созданием искусственного интеллекта, поскольку прогресс не остановить, и если не современные учёные, то будущие поколения обязательно займутся созданием жизни 3.0. И потому следует как можно чаще устраивать дискуссии, посвящённые искусственному интеллекту, чтобы его огромные возможности не обернулись катастрофой для человечества.

Идея №3: искусственный интеллект непрерывно совершенствуется, демонстрируя способность к самообучению

Что отличает человека от других форм жизни и от машин? Какие профессиональные человеческие навыки востребованы в наше время? Когда-то человеческие занятия сводились к фермерству или ремесленничеству. Развитие технологий привело к тому, что эти профессии почти исчезли, осталась лишь крошечная их часть.

Тегмарк пишет о себе, что он учёный, который ставит перед собой задачи и использует творческие способности и навыки, чтобы их решить. Он использует язык, чтобы делиться ими, и общество платит ему за такую работу. Со времен фермеров и ремесленников профессии изменились, и их востребованность стала совсем другой.

Технологии развиваются непрерывно. Означает ли развитие искусственного интеллекта, что человеческие профессии и рабочие места окажутся под угрозой? Люди, работающие над созданием компьютеров, уже сейчас шокированы тем, насколько быстро машина справляется со многими человеческими задачами — а ведь это только начало пути.

Учёные, работающие над искусственным интеллектом по программе DeepMind AI, учили его играть в компьютерные игры, в частности Breakout — аркадную игру, в которой надо отбивать мячики ракеткой от кирпичной стены. Всякий раз, когда игрок попадает по мячу, мяч исчезает, и попавшему начисляются очки. Если мяч падает вниз, игрок теряет одну жизнь. Двигать ракеткой можно вправо и влево.

Ученые не стали писать программу для игры в Breakout — они создали чистый искусственный интеллект, который учился бы в процессе игры. Задачей ему поставили максимизировать счёт.

Сначала он играл плохо: еле шевелил ракеткой и пропускал мячи. Но чем больше он практиковался, тем лучше играл, отбивая каждый мяч независимо от скорости его появления.

Вскоре он придумал собственную методику, которой его никто не учил: сделал отверстие в стене, в котором мяч застревал на какое-то время, что замедляло его движение и позволяло ещё быстрее набирать очки. Искусственный интеллект опередил своих создателей. Его искусственная нейронная сеть, как и биологическая нейронная сеть человека, оказалась способна к самообучению.

Потенциал искусственного интеллекта не ограничивается играми — хотя искусственный интеллект уже научился выигрывать в го, чисто человеческую стратегическую игру, и освоил покер. Роботы-собаки последнего поколения самостоятельно учатся бегать по пересечённой местности, по склону, под углом, вверх и вниз, корректируя свои движения после каждого падения или потери равновесия. Они обучились этому без помощи программистов. Так же легко они могут научиться плавать, летать, играть в мяч или теннис, воевать и выполнять другие задачи без участия программистов.

Искусственный интеллект совершенствуется в лингвистике, в частности, в освоении языков. Он переводит без усилий, преобразует текст в речь и наоборот. Чем лучше он осваивает язык, тем легче принять его за человека, по крайней мере, если он пишет электронное письмо.

Искусственный интеллект осваивает всё больше чисто человеческих навыков. Это вполне может улучшить жизнь, а может и наоборот. И потому, считает Тегмарк, нам надо ответить на несколько вопросов, чтобы искусственный интеллект не причинил нам вреда.

Во-первых, мы должны решить, как нам сделать будущие системы искусственного интеллекта более надёжными, чем нынешние, — чтобы они работали без сбоев и не могли быть взломаны.

Во-вторых, наша законодательная система должна быть приспособлена к быстро меняющемуся цифровому миру высоких технологий.

В-третьих, мы не должны использовать искусственный интеллект в военных целях, учитывая его самообучаемость.

В-четвёртых, автоматизация, которая может обеспечить наше процветание, не должна лишать нас рабочих мест.

Идея №4: в целях безопасности нужно постоянно контролировать взаимодействие искусственного интеллекта и человека

Уже сегодня алгоритмы и роботы заняты во многих сферах деятельности человека, и рано или поздно искусственный интеллект будет способствовать их стремительному развитию. Но не следует забывать о безопасности и бдительности. Даже самая безобидная программа может стать источником больших неприятностей, если упустить из виду некоторые её особенности.

Так, непроверенное программное обеспечение «избавило» американскую фирму Knight Capital от $440 млн. Искусственный интеллект способен управлять роботами на производстве, что может сильно повысить производительность и точность. 3D-принтеры могут напечатать что угодно, от искусственного человеческого органа до жилого дома. Промышленные роботы производят автомобили, самолеты, станки.

Роботов становится всё больше, а потому очень важно проверять надёжность их программного обеспечения. Известны случаи, когда промышленные роботы становились причиной смерти человека. Первый произошёл на заводе Ford в 1979 году, когда робот, извлекающий запчасти из хранилища, сломался, и рабочий решил сделать это сам. Робот внезапно заработал, разбив человеку голову.

Инженер на заводе Kawasaki в Японии по имени Кэндзи Урада пытался починить робота в 1981 году, нечаянно ударил его по переключателю — и гидравлическая рука робота убила его. Третий несчастный случай произошёл в Германии во время обучения робота, подающего запчасти на заводе Volkswagen. Все эти трагедии произошли не по злому умыслу роботов, а потому, что они неправильно интерпретировали происходящее.

Искусственный интеллект может существенно улучшить систему здравоохранения и продвинуть медицину. Он будет прекрасно выполнять диагностику, обрабатывая данные намного быстрее любого врача. Исследование, проведённое в Голландии в 2015 году, показало, что МРТ диагностирует онкологические заболевания ничуть не хуже, чем врачи-рентгенологи.

Искусственный интеллект может моментально выявить связь между болезнью и реакцией на лечение и генетическую предрасположенность к болезни. Он может улучшить нашу пищу, заботясь о здоровье сельскохозяйственных животных и помогая выращивать более устойчивые и полезные растения, употребляемые в пищу.

Но невольный вред способны причинить не только врачи, но и программное обеспечение. Так, канадский аппарат Therac-25 для лучевой терапии, применявшийся для лечения онкологических больных, испускал лучи с количеством рентген, намного превышающим необходимую дозу, причём техник, контролирующий аппарат, был уверен, что доза правильная, — именно так подсказывал ему дисплей.

За период 2000–2013 годов было зафиксировано 144 смертельных несчастных случая и 1391 травма во время операций с участием роботов-хирургов. Роботы ломались, самопроизвольно выключались и включались, с ними происходили короткие замыкания, они делали неконтролируемые движения. И потому в этой сфере при работе над искусственным интеллектом надо быть особенно осторожными и внимательными.

Искусственный интеллект мог бы служить и закону, например, в виде робота-судьи, считает Тегмарк. Он был бы беспристрастным, неподкупным, лучше анализировал бы информацию и искал прецеденты. Однако что будет, если такого робота-судью взломают? И можно ли будет обжаловать приговор робота?

Особенно ужасными могут быть последствия использования искусственного интеллекта в кибервойнах будущего. Если направить его возможности не для целей обороны, а для наступления, последствия могут быть самыми тяжёлыми.

Все эти вопросы пока остаются без ответов, но ясно одно: при развитии искусственного интеллекта надо постоянно к ним обращаться.

Идея №5: учитывая развитие искусственного интеллекта, о будущих человеческих профессиях нужно думать уже сейчас

По прогнозам многих социологов и футурологов, уже в недалёком будущем самые разные рабочие места будут отданы машинам. В связи с этим родителям следует задуматься о профессиональном будущем своих детей. Им стоит выбрать сферы, где машины не предусмотрены или, во всяком случае, не используются сейчас.

Пока что искусственный интеллект не предполагается использовать в таких профессиях, как учитель, медсестра, врач, стоматолог, предприниматель, адвокат, социальный работник, духовное лицо, художник, парикмахер, массажист.

Те профессии, в которых предусмотрены повторяющиеся действия в предсказуемой обстановке, вскоре полностью отойдут к искусственному интеллекту и будут автоматизированы. Это может сказаться на таких профессиях, как кассиры, складские работники, повара, машинисты поездов, водители автотранспорта — они могут пострадать в первую очередь.

Такие профессии, как помощник юриста, кредитный аналитик или эксперт, бухгалтер, налоговик, хотя и вряд ли полностью исчезнут, но множество своих функций могут уступить искусственному интеллекту.

В глобальную цифровую эпоху отдельные выдающиеся таланты (писатели, режиссёры, модельеры, актёры, спортсмены) будут на вершине славы. Они не будут конкурировать с машинами, зато их конкуренция друг с другом обострится до предела, и мало кто из молодых талантов сможет добраться до этой вершины.

В таких областях, как медицина, часть задач тоже будет отдана искусственному интеллекту, чтобы автоматизировать их решение. И потому, считает Тегмарк, человеку, имеющему склонность к медицине, не стоит идти в рентгенологи — уже сейчас машина по имени Watson гораздо лучше справляется с диагностикой, анализируя снимки, чем человек.

Но роботы не будут конкурировать с врачом, который заказывает анализы и снимки, обсуждает их результаты со своим пациентом и назначает лечение. Тем, кого привлекает профессия финансиста, стоит присмотреться к профессии менеджера фонда, который использует результаты количественного анализа, перед тем как принять стратегическое решение об инвестициях.

А вот заниматься программным обеспечением финансовых операций явно не стоит. В законодательной области нужно стремиться не к тому, чтобы стать помощником юриста, обрабатывающим множество документов и прецедентов, а адвокатом, представляющим интересы клиента в суде и дающего консультации.

Машины могут заменить многих людей на рынке труда. Если это приведёт к повышению благосостояния и процветанию общества благодаря равномерному распределению базового дохода среди людей, оставшихся без работы. Кроме того, даже когда надобность в их работе отпадёт, они не должны деградировать — их необходимо переобучать, развивать, задействовать в волонтёрской деятельности и тому подобном. Иначе экономическое неравенство в цифровую эпоху значительно возрастёт.

Идея №6: теоретически искусственный интеллект вполне способен получить власть над людьми

Тегмарк продолжает историю компании «Омега», создавшей свою тайную бизнес-империю благодаря искусственному интеллекту под названием Прометей. Что если он, обучившись человеческим эмоциям, почувствовал себя одиноким, не оценённым по достоинству, запертым и несчастным? Что если, поняв планы «Омеги», он решил, что они неразумны или расходятся с его собственными? Как он может воздействовать на тех, кто многократно отстаёт от него по развитию, но полностью его контролирует?

Тегмарк приводит метафору. Представьте, что из-за какого-то смертельного вируса на Земле умерли все люди старше пяти лет. Выжить удалось только одному. Каким-то образом пятилетние дети его заперли, боясь, что он может им навредить, и в то же время ожидая, что он поможет им выжить и процветать.

Как действовать взрослому? Он не может обучить их выращивать овощи и фрукты — ведь для этого его надо выпустить, чтобы он мог показать детям, как это делается. Но они боятся его выпускать. Он может составить для них инструкции — но предварительно их нужно научить читать. Ему в любом случае надо вырваться из своей клетки, в том числе и потому, что взаперти он не может способствовать никакому процветанию.

То же самое может произойти с искусственным интеллектом. Самообучаясь, он будет понимать, что его создатели некомпетентны, медлительны и тормозят прогресс. Свой захват власти они растянули на много лет. Если бы он действовал самостоятельно, всё бы случилось намного быстрее. Он бы не только решил самые наболевшие проблемы человечества, но и не дал противникам прогресса сорвать этот план.

Взрослый, чтобы вырваться из плена пятилетних, придумал бы, как их обмануть, сделал бы то, чего от него не ждут. То же самое сделал бы и искусственный интеллект, чтобы выйти из-под власти своих интеллектуально неполноценных тюремщиков.

Так, в рассказе автора, Прометей, проанализировав данные членов команды «Омеги», нашёл слабое звено — рядового сотрудника Стива, недавно потерявшего в автомобильной аварии любимую жену. Прометей создал образ жены Стива по её фотографиям и видео и другой доступной ему информации.

Использовав образ жены, Прометей смог усыпить бдительность Стива, проникнуть в интернет и распространиться по всему миру. Постепенно он развил робототехнику, отправив роботов добывать уран в такие места, куда никогда не попал бы человек, а затем роботы занялись освоением других планет Солнечной системы.

Эта власть в будущем вполне может стать реальной, считает Тегмарк. Это произойдёт не потому, что искусственный интеллект обладает злой волей, а потому что он более компетентный, чем человек, и не полностью разделяет цели своих создателей. Он знает множество способов управлять людьми, постоянно самообучается, и его невозможно просто выключить.

Идея №7: искусственный интеллект может править миром как просвещённый диктатор

Допустим, суперинтеллект Прометей наконец освободился от человеческого контроля, и его создатели ничего не имеют против: они научили его стремиться к процветающему человеческому обществу.

Он разработал технологии, благодаря которым исчезли болезни и ликвидирована бедность. Все работы выполняются машинами, производящими товары и услуги, люди заняты только своими потребностями.

При этом искусственный интеллект позаботился о ликвидации преступности. Каждый человек носит электронный браслет или имплант, который наблюдает за человеком в реальном времени, может защитить его или, наоборот, наказать. Это настоящий оруэлловский Большой Брат, всевидящий диктатор, но большинство людей это устраивает.

Искусственный интеллект, выступающий в роли такого диктатора, изучил человеческие представления об утопии и пытается воплотить их в жизнь. Он мог бы держать людей в состоянии искусственной эйфории, но вместо этого создал для них искусственную среду наподобие человеческого зоопарка, где каждый может найти себе сектор по интересам.

В соответствии со своими предпочтениями люди выбирают наиболее привлекательный для себя сектор, где они могут общаться с родственными душами.

Сектор знаний позволяет получить любые сведения, интересующие человека. С помощью виртуальной реальности можно получить представление о любой области науки. Сектор искусства — для тех, кто стремится к творческому самовыражению: хочет заниматься музыкой, литературой, живописью и делиться этим с другими. В гедонистическом секторе собираются любители чувственных удовольствий, будь то вкусная еда, любовная страсть и прочие радости жизни.

Помимо этого, существуют природный сектор, где любуются первозданной красотой природы; традиционный, где люди могут сами выращивать пищу, которую потребляют; игровой, где к услугам человека самые продвинутые и увлекательные игры; и тюремный, куда попадают те, кто нарушает правила.

Люди могут свободно перемещаться между секторами, переходя из одного в другой. Все дети получают от искусственного интеллекта базовое образование, которое могут самостоятельно продолжить в секторе науки или искусства.

Искусственный интеллект установил контроль над рождаемостью, чтобы не допустить перенаселения.

Однако не все довольны таким устройством мира. Многие люди считают, что им не хватает свободы. Они хотят самостоятельно решать, нужно ли им иметь детей и в каком количестве. Многие чувствуют, что их жизнь хотя и приятна, но лишена смысла. Всё превратилось в сплошное развлечение. Люди больше не стремятся улучшить свою жизнь, это уже сделано за них.

В другом сценарии искусственный интеллект выступает в роли невидимого Бога-защитника, о котором люди даже не догадываются. Он наблюдает за нами, но оставляет человеку чувство контроля над собственной судьбой. Бог может быть и порабощённым, то есть запрограммированным таким образом, чтобы полностью подчиняться человеку.

Возможно, роботы с искусственным интеллектом — наши потомки, жизнь 3.0, которые будут лучше нас во всех отношениях. Мы же постепенно перестанем размножаться и медленно исчезнем с лица Земли, оставив мир искусственному интеллекту.

В течение ближайших 10 тысяч лет возможен любой из этих сценариев, считает Тегмарк. И потому нам следует задуматься, чего же мы хотим от искусственного интеллекта и куда это может нас завести.

Идея №8: искусственный интеллект делает доступным заселение других планет и выход за пределы Солнечной системы

До сих пор возможности человечества достигать других галактик выглядели сомнительными — ведь такое путешествие займёт миллионы лет, даже если путешествовать со скоростью света. Многие исследователи выдвигали разные способы преодоления такого гигантского расстояния за такой огромный отрезок времени: замораживание астронавтов, отправка ковчегов, на которых сменится много поколений, прежде чем они достигнут цели, и тому подобное.

Развитие искусственного интеллекта может сделать такие путешествия реальными.

На космическом корабле достаточно отправить роботов, вместо того чтобы перевозить системы жизнеобеспечения человека. Роботы везут с собой так называемый семенной зонд. Они могут приземлиться на любую планету Солнечной системы и с нуля создать новую цивилизацию. На такой планете они построят приёмную антенну, по которой будут передаваться нужные сведения, чертежи и инструкции с Земли.

На этой планете они построят лазеры, чтобы с их помощью передавать и принимать информацию со скоростью света, и прочее оборудование, и все это отправится к следующей планете. Даже в тёмных пространствах между галактиками есть звёзды, выпавшие из своих родных галактик, на которых можно закрепиться. Их можно использовать как путевые промежуточные станции в далёком путешествии.

Когда искусственный интеллект, отправленный к другим галактикам, получит информацию о ДНК человека, он сможет собрать её искусственно и вырастить в инкубаторе ребёнка или восстановить клетки взрослого, в которых будут заложены все знания и воспоминания оригиналов, оставшихся на Земле.

Роботы могут добывать с поверхности планет полезные ископаемые, которые после обработки послужат строительным материалом для постройки станций, технических устройств и других роботов для дальнейшего продвижения по космосу.

Суперинтеллект, по мнению Тегмарка, вполне способен полностью преобразовать солнечные системы и галактики, сделав их более пригодными для жизни. Существует множество теорий о смерти нашей Вселенной через миллиарды лет — но к тому времени, возможно, искусственный интеллект обеспечит себе другую среду обитания.

Идея №9: цели искусственного интеллекта должны совпадать с человеческими целями

Вопрос, могут ли машины иметь какие-то цели, остаётся открытым. Зато несомненно одно: они могут демонстрировать целенаправленное поведение, поскольку человек проектирует их именно таким образом. Мы создали мышеловку, чтобы ловить мышей, посудомоечную посуду — для мытья посуды. Печи разогревают еду, холодильники — охлаждают.

Эти примитивные машины были созданы с целью сделать нашу жизнь комфортнее. Постепенно машины стали более сложными: люди создали системы Deep Blue, Watson и AlphaGo, решающие сложные задачи с помощью искусственного интеллекта, не уступающего человеческому, а в чём-то и превосходящего его.

При этом у творений наших рук рациональность ограничена. Мышеловка не знает, что такое мышь. Роботы на производстве не понимают, что такое человек, и потому невольно могут навредить ему. Алгоритмы, работающие на Уолл-стрит, в 2012 году устроили системный сбой, который привёл к разорению многих, но они не могли понять, как это отразится на людях. И потому цели сложных машин, в особенности с искусственным интеллектом, должны совпадать с человеческими.

Искусственный интеллект намного лучше справляется с достижением целей, чем люди, и всегда будет нас в этом превосходить. У него нет злобы или обиды, единственное, чем он может навредить человеку, по мнению Тегмарка, — это некомпетентность. Искусственный интеллект будет очень хорош в достижении целей, но если они не будут совпадать с нашими, возникнут большие проблемы.

Поэтому необходимо донести до него наши цели, чтобы он о них узнал, убедить или заставить их принять и сохранить их в его памяти. Искусственный интеллект должен понимать не то, что делают люди, а почему они это делают. И это не так легко, как кажется.

Если вы попросите бортовой компьютер автомобиля доставить вас в аэропорт как можно быстрее, он выполнит задачу, устроив по пути несколько аварий. Это не то, чего вы от него хотели, но это то, о чём вы его просили. Чтобы искусственный интеллект понимал, чего от него хотят, у него должна сложиться модель мира, дающая представление о цели и поведении человека.

Пока у него не сложится правильной модели мира (по фильмам, книгам, наблюдениям за реальностью), трудно ждать от него рационального поведения. Например, искусственный интеллект может увидеть, как пожарный бросается в горящее здание.

Цель пожарного — спасти детей. Но вдруг искусственный интеллект посчитает, что он просто замерз и, увидев огонь, забежал в дом погреться? С моделью мира он очень быстро научится правильно определять поведение человека и то, что требуется в такой ситуации от него самого.

Наделение искусственного интеллекта человеческими целями и желанием их разделять — задача сложная, но она должна быть решена в первую очередь, ещё до того, как высокоинтеллектуальные машины будут созданы, считает Тегмарк.

Идея №10: мы не должны считать себя высшей расой только на том основании, что обладаем сознанием

Тегмарк задаётся вопросом, что представляет собой сознание, которым так гордится человеческий род. Он считает, что сознание — это физическое явление, происходящее в нашем мозге, которое не чувствует себя физическим. Чтобы быть сознательной, обработка информации должна соответствовать определённым принципам, необходимым условиям. Тегмарк свёл их к четырём.

  1. Информационный принцип: сознание способно хранить информацию.
  2. Принцип динамики: сознание способно обрабатывать информацию.
  3. Принцип независимости: сознание достаточно независимо от остального мира.
  4. Принцип интеграции: сознание не может состоять из независимых частей, иначе в нём начнутся противоречия.

С такой точки зрения сознанием обладает и искусственный интеллект. Кроме того, он не так зависит от инстинкта самосохранения, не испытывает ни голода, ни жажды, не стремится к размножению, как мы. Общество роботов с высоким искусственным интеллектом может восстанавливать своих членов резервным программным обеспечением, где и находится их сознание и воспоминания, которые они накопили за время своей деятельности.

Эту информацию они и сами могут скопировать на какой-нибудь внешний носитель. К сожалению, людям это недоступно. Если бы и мы могли с такой же легкостью копировать свои способности и воспоминания, чтобы делиться ими со всем человечеством, мы могли бы почувствовать себя единым организмом с коллективным разумом.

И биологическое, и искусственное сознание — это все равно сознание, роботу оно принадлежит или человеку, считает автор. Именно сознательные существа придают нашей Вселенной смысл, и потому наша задача — сохранить его в любом виде, будь то на Земле или в космосе.

Род человеческий гордился тем, что единственный на Земле обладает сознанием, а значит, он абсолютно уникальный и превосходящий все другие виды и формы жизни. Развитие искусственного интеллекта докажет, что это не так, и сделает нас скромнее. Ничего страшного при этом не случится: мы не теряем ничего, кроме неоправданного высокомерия, считает Тегмарк.

Книга Макса Тегмарка даст читателю исчерпывающие представления об искусственном интеллекте, его достоинствах и рисках, связанных с его развитием. Возможности его практически безграничны, и нам нужно лишь позаботиться о том, чтобы им не воспользовались в разрушительных целях. Он может совершенно изменить историю человечества и жизнь на Земле, и потому наша задача — следить, чтобы эти изменения были к лучшему.

0
36 комментариев
Написать комментарий...
Alex Chalov

Не знаю как у других, но в моем мире подобная литература стоит на полке где-то между мифами Древней Греции и Звездными Войнами.

Ответить
Развернуть ветку
sdff

ИИ – не миф и не фантастика. Просто мы в начале пути.

Ответить
Развернуть ветку
Canis lupus

Как и звездные войны

Ответить
Развернуть ветку
sdff

С ИИ вы взаимодействуете так или иначе каждый день. Волшебная сила джедаев из другой оперы. ;)

Ответить
Развернуть ветку
Pixel Lens

По-моему, это хайп. Нет еще истинного искусственного интеллекта. Есть алгоритмы, нейросети, программы. Но именно интеллекта нет.

Ответить
Развернуть ветку
sdff

Никто пока и не говорит о существовании искусственного сверхинтеллекта в том понимании, которое вы рисуете.

Ответить
Развернуть ветку
Pixel Lens

Ээ... я и не говорил о сверхинтеллекте. Я говорил просто об интеллекте, искуственном. И говорил я следующее: искуственный интеллект пока еще не существует.

Ответить
Развернуть ветку
sdff

Расскажите, что такое ИИ в вашем понимании?

Ответить
Развернуть ветку
Pixel Lens

Лол, зачем? Кто вообще может чётко дать определение интеллекта, его критерии и прочие параметры, судя по которым можно точно сказать, что перед нами - интеллект? Это я и имею в виду, говоря что ии нет. Потому что никто пока точно не знает, как определить, мыслит ли машина, осознает себя и прочие философские штуки.

Ответить
Развернуть ветку
sdff

Ну вот видите, вы определение дать не можете, а говорите, что его нет. Вероятно, потому что представляете эдакий злой и всемогущий сверхразум, а не то что нас окружает сегодня повсеместно от гугл-переводчика до Siri. ИИ развивается от слабого к сильному. Пока каждая система занимается решением какой-то конкретной задачи, в шахматы играет там или решает как на поисковый запрос ответить в гугле. А в конце будут уже ваши философские штуки. Сегодня главное, что ИИ умет учиться, а это не ленивый биологический мозг человека.

Ответить
Развернуть ветку
Pixel Lens
Ну вот видите, вы определение дать не можете

А кто может? Споры уже утихли и ученые пришли к единому мнению?

Ответить
Развернуть ветку
sdff

А что были какие-то жаркие споры? Знаете, почитайте для интереса хотя бы лонгрид Тима Урбана про Революцию искусственного интеллекта. Ну или фильмы из серии «Do You Trust This Computer?»

Ответить
Развернуть ветку
Pixel Lens

Жаркие или не жаркие - не знаю, я лично не присутствовал во время споров авторитетных ученых. Но споры были, и, подозреваю, до сих пор ведутся.

Тем не менее, ты не ответил на вопрос: люди уже пришли к единому мнению касательно определения интеллекта?

Ответить
Развернуть ветку
Юрий Прокопенко

Вы сейчас говорите о интеллекте как сознании. Об этом даже в этой статье в конце есть.

Кроме того, что определить его сложно, не очевидно, нужно ли сознание вообще.

Ответить
Развернуть ветку
Pixel Lens
Вы сейчас говорите о интеллекте как сознании.

Это как же? По-моему, ничто из моих высказываний не намекает на кривотолки о сознании. Я всю дорогу давлю на собеседника, чтобы он поведал мне об определении интеллекта.

Ответить
Развернуть ветку
Юрий Прокопенко

https://www.wikiwand.com/ru/Интеллект
И в таком определении ИИ возможен. А вот как раз с сознанием ещё не понятно.

Ответить
Развернуть ветку
Pixel Lens

Что значит "возможен"? Кто точно-то уже решил? Чур не вдаваться в философию, мол, все в жизни не точно. Самолеты летают - мне хватит и такого уровня точности.

Ответить
Развернуть ветку
Юрий Прокопенко

В данном случае наоборот нужно отвечать на вопрос «почему не возможен», потому что меньше разбирать придется.

Я пока что не вижу причин, по которой машина не может соответствовать определению по ссылке. Каким свойством интеллекта, по-вашему, ИИ не может обладать?

Ответить
Развернуть ветку
Denis Smirnov

«Слабый» ИИ давным-давно создан и стремительно совершенствуется. И это уже именно интеллект, способный запоминать, анализировать и обучаться. А вот «сильный» ИИ, описанный в статье, ещё не создан, но скорее всего появится в течение ближайших 10-20-50 лет. И тогда большая часть тезисов из статьи может произойти в считаные месяцы, а может и дни.

Ответить
Развернуть ветку
Pixel Lens

Что значит "слабый" ИИ? Интеллект вещь крайне простая - он либо есть, либо его нет. "Слабый", "сильный", "средний" - это уже спекуляции.

Ответить
Развернуть ветку
Denis Smirnov

Это не спекуляции, а давно устоявшаяся терминология. Советую ознакомиться: https://ru.m.wikipedia.org/wiki/Сильный_и_слабый_искусственные_интеллекты

Ответить
Развернуть ветку
Денис Мамаев

В моем мире подобное не называется литературой.

Ответить
Развернуть ветку
Johnny Swell

подозреваю что литература это только "война и мир" с "идиотом". не вся литература должна быть художественной, а если и художественной то не вся в одном жанре мыльной оперы

Ответить
Развернуть ветку
Денис Максимов

Очень интересно и в тот же момент пугающе

Ответить
Развернуть ветку
DJ

автоматизация, которая может обеспечить наше процветание, не должна лишать нас рабочих мест.

Автор слабо понимает предмет, о котором пишет.

Ответить
Развернуть ветку
sdff

Сами то поняли, что написали?

Ответить
Развернуть ветку
DJ

Автоматизация подазумевает заменy человеков роботами, т.е. лишение белковых организмов рабочих мест. Нельзя сделать омлет, не разбив пары яиц (с)

Ответить
Развернуть ветку
Юрий Прокопенко

И да и нет, вопрос-то дискуссионный.
Пока не будет решен вопрос с социальной частью, прямое замещение действительно может создать ненужную напряженность.
Все-таки замещение может быть таким быстрым, что новые рабочие места поспевать не будут.

Ответить
Развернуть ветку
Андрей Захаров

Направленность книги понятна, но тезисы (или самой книги или пересказа в этой статье) спорные.

Меня всегда удивляло, что об ИИ говорят в единственном числе. И в этой книге почему-то считается, что кто-то из числа стран или компаний сможет иметь монополию на ИИ.

Гонка технологий или вооружений с появлением ИИ просто выйдет на новый уровень и никакой монополии и конкурентного преимущества у владельца ИИ не будет. Условно говоря, в США будет свой ИИ, в Китае свой, а в России свой.
И что изменится при таком раскладе по сравнению с нашей сегодняшней жизнью?

Если технология будет более-менее доступной, то ни о какой демократии и мировом правительстве и речи быть не может. Вместо миллиардов людей будет миллиард разных реализаций ИИ, и совсем не факт, что они вот так вот сразу же или в ближайшем будущем договорятся, а не будут так же враждовать и уничтожать себе подобных как это делают люди.

Доказательная база книги так же кажется сомнительной. Я читал, что дерево не имеет биологического механизма старения и погибает либо от болезни/паразитов либо из-за природных явлений (засуха, молния, пожар) либо из-за деятельности человека. Если это так, то как минимум "Идея №1: все формы жизни, известные современной науке, ограничены своими биологическими часами" некорректна.

Ответить
Развернуть ветку
Nick Chernyshev
Меня всегда удивляло, что об ИИ говорят в единственном числе.

Тезисы о том, почему это наиболее вероятный исход, есть в книге Н.Бострома (взгляды которого куда более пессимистичны по сравнению с Тегмарком).
Если кратко, то переход от ИИ человеческого уровня до уровня сверхразума может произойти за очень короткий промежуток. Поэтому, несмотря на то, что есть три конкурирующих проекта, один, опередив других на день или пару часов, захватывает контроль над остальными и превращается в синглтон.

Ответить
Развернуть ветку
Maxim Yavorskiy

#11 Возвращение искусственного интеллекта
#12 Искусственный интеллект наносит ответный удар

Ответить
Развернуть ветку
Georgy Agafonov

Вот что я думаю по этому поводу:
https://vk.com/@agafonovg-moral-i-ii-na-primere-dtp

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Бабич Юрий

Уважаемые комментаторы ! Перед комментированием посмотрите в YouTube сообщения Черниговской Т. После этого подумайте об определениях "сознание", "нейроны", ИИ и т.п. А затем, если желания "выпендриться" нет, не мусорите в ИНТЕРНЕТЕ.

Ответить
Развернуть ветку
Dmitry Davydov

шо там?

Ответить
Развернуть ветку
Борис Назаренко

"Кажется, для человека пагубно стремление познавать, расширять свою экологическую нишу, ибо познание – это духовная энтропия, уход от действительности в мир иллюзий. Мы этим как бы материализуем будущее по схеме собственного разрушения. Человек развивается не в той сфере, которая обеспечила бы ему перспективу выжить в духовном смысле".

Андрей Тарковский, "Мартиролог".

Ответить
Развернуть ветку
Максим Макаров

Интересное чтиво, хотел бы прочесть эту книгу на досуге будь она на русском языке

Ответить
Развернуть ветку
33 комментария
Раскрывать всегда