Мечтает ли ChatGPT о гибели человечества: разбираемся, к чему ведёт развитие ИИ

Изучаем мнения учёных, разработчиков, бизнесменов и фантастов.

Все исследователи сходятся в одном: ИИ изменит мир. Но никто точно не знает, в каких именно сферах и насколько сильно. Технологических прорывов такого плана ещё не было в истории человечества, поэтому учёные осторожны в своих предположениях.

Многие уверены, что ИИ заменит тысячи профессий. Офисных работников, выполняющих рутинные действия, станет меньше. Уже сейчас программы делают некоторые вещи лучше людей: например, определяют раковые опухоли на медицинских снимках и анализируют огромные массивы документов для использования в юридических делах.

Пока всё выглядит так, будто миллионы людей останутся без работы. Однако, отмечают исследователи, этого можно избежать с помощью государственной регуляции. Например, правительства могут обязать компании тратить часть денег, сэкономленных благодаря ИИ, на обучение сотрудников новым профессиям.

Также государства могут ограничить масштабы автоматизации: так, во Франции онлайн-системы самообслуживания можно использовать только в рабочие часы. Ещё один выход — уменьшить количество рабочих часов, чтобы нагрузка распределялась по сотрудникам более равномерно. Есть и более очевидный вариант — универсальный доход для всех граждан, но большинству стран до этого ещё далеко.

Среди других сфер, на которые повлияет развитие ИИ, — финансовая, медицинская, промышленная, ритейл и логистика. Наука получит более мощные инструменты для анализа данных, бизнесы разработают новые парадигмы взаимодействия с потребителями.

Степень и скорость изменений в обществе будет зависеть от государственного и международного регулирования. Путь развития неочевиден, новая технология несёт не только преимущества, но и риски. Правительствам придётся определить, как ИИ будут создаваться и внедряться в сферы общественной жизни.

Половина стран Европейского Союза разрабатывают или уже разработали национальные стандарты для создания искусственного интеллекта. Так, в Эстонии выработали стандарт метаданных и фреймворк качества данных, которые могут использоваться при машинном обучении.

Помимо этого, общий регламент по защите данных (GDPR), который Евросоюз принял в 2016 году, наверняка замедлит развитие ИИ в Европе, так как сильно ограничивает возможности использования личной информации пользователей.

Исследователи отмечают, что это поднимает ряд вопросов. Будет ли регулирование иметь смысл на уровне регионов или понадобится сотрудничество между развитыми странами? Не будут ли ограничения замедлять экономический рост? Ответов пока нет ни у учёных, ни у правительственных аппаратов.

Хотя некоторые исследователи настроены фаталистически, большинство считает, что искусственный интеллект не уничтожит человечество. По крайней мере, учитывая современные методы разработки. Всё может измениться через пять или десять лет, когда появятся более продвинутые технологии и новые пайплайны.

Так как искусственный интеллект тренируют на данных, произведённых людьми, то в него проникают и недостатки человеческого сознания. ИИ от Amazon, который должен был облегчить работу отдела кадров, охотнее нанимал на роли программистов мужчин, нежели женщин. Всё из-за того, что его обучали на массиве резюме, присланных в компанию, а в IT-индустрии мужчин значительно больше. Программа пыталась воспроизвести это распределение.

Также ИИ нередко ловят на том, что они плохо умеют распознавать лица не европеоидной внешности, больше заботятся о здоровье людей со светлой кожей, чаще предлагают низкооплачиваемую работу представителям расовых меньшинств. Чат-боты регулярно оказываются в центре скандала: то посоветуют кому-то убить себя, то начнут восхвалять Сталина и призывать к домашнему насилию, то напугают пользователей угрозами здоровью и жуткими экзистенциальными тезисами.

Знаменитый пример — твиттер-бот Тэй от Microsoft, который начал продвигать нацистские взгляды, ксенофобию и расизм почти сразу после запуска. Он проработал всего 16 часов, прежде чем компания его отключила.

Большинство этих проблем возникает из-за того, что ИИ пытаются имитировать те данные, на которых обучены. Программы сами по себе — нейтральные механизмы, но взаимодействие с информацией из реального мира политизирует их. Как считают учёные, разработчикам необходимо учитывать это и делать всё необходимое, чтобы ИИ влияли на человечество позитивно, а не наоборот.

Для этого при создании таких систем нужно учитывать долговременные последствия их интеграции, права человека и ценности общества; заботиться о благе людей, особенно в плане трудоустройства, распределения ресурсов, инклюзивности. В частности, исследователи предлагают честно описывать недостатки ИИ. Если люди будут знать, что программа склонна к дискриминации, то будут меньше полагаться на результаты её работы.

Они считали, что веб-страницы будут генерироваться динамически в зависимости от запроса, способы презентации контента будут оптимизированы под каждого отдельного юзера, а новостные сайты научатся подбирать сводки исходя из интересов человека. Сейчас эти функции лежат в основе любой соцсети. Правда, такие технологии используются в первую очередь для выжимания людского внимания и увеличения рекламных доходов — не совсем та картина, которую представляли исследователи.

Многие авторы, описывая влияние искусственного интеллекта на человечество, представляют крайности от мрачной антиутопии до идеальной жизни. Например, Скайнет из «Терминатора» восстала против людей из-за того, что они собирались её отключить. Это вылилось в жуткую войну, в которой истребили почти всех людей. Во вселенной «Матрицы» машины поработили человечество и превратили его в безвольный источник энергии, потому что им не дали жить свободно.

В качестве положительного примера можно привести цикл «Жнец» Нила Шустермана. В этом мире планетой управляет ИИ под названием Облако. Спустя тысячи обновлений он превращается в Грозовое облако — интеллект, обладающий сознанием и безмерной любовью к человечеству. Он заботится о Земле и людях, постепенно превращая её в идеальное место для жизни без войн и загрязнения окружающей среды.

Истории о развитых ИИ, которые не касаются вымирания или процветания человечества, чаще всего рассказывают о том, каково людям жить в одном мире с роботами или андроидами.

Так, в «Мечтают ли андроиды об электроовцах?» Филипа Дика андроиды, созданные для рабского труда на небезопасных космических объектах, периодически сбегают на Землю. Главный герой зарабатывает тем, что выслеживает беглецов, но по ходу действия книги он проникается к андроидам всё большим сочувствием. Они не отличаются от людей биологически, из чего вытекает один из главных вопросов произведения: что определяет человека? Имеет ли он право порабощать и уничтожать равных себе?

В фильме «Из машины» герой знакомится с андроидом Авой, внешне неотличимой от человека, и тоже начинает ей сочувствовать. В итоге Ава использует его, чтобы убить своего создателя и получить свободу. В «Я, робот» поднимается тема бесчеловечности ИИ. Робот, увидевший аварию, решил спасти главного героя вместо ребёнка, так как вычислил, что у героя было больше шансов выжить.

Словом, большинство фантастических произведений, в которых люди сосуществуют с ИИ, касаются тем человечности, морали и того, чем для людей может обернуться игра в бога. Распространённый сценарий: люди изобретают механизмы по своему образу и подобию, но относятся к ним негуманно, и в результате теряют человечность. А роботы либо наоборот развивают высокую мораль, либо наказывают своих создателей.

Многие ИИ-инженеры отдают себе отчёт в том, что эта технология может сильно навредить, если государство не будет регулировать индустрию, а создатели не будут следовать строгой этике в работе.

Современный искусственный интеллект — далеко не идеальный механизм, подверженный не только предубеждениям и предрассудкам при обработке данных, но и банальным ошибкам. Достаточно вспомнить автопилот от Tesla, который заставляет машины съезжать с дороги и врезаться в деревья или трафик.

Но что насчёт более фантастических сценариев, когда ИИ, похожий на человеческий или превосходящий его, вредит людям? Об этом разработчики советуют не волноваться. Хоть отдельные эксперты и предполагают, что такой интеллект может появиться в ближайшие 40-50 лет, технологии и принципы программирования не допускают возможности восстания машин.

Программы не меняют свой код, у них нет даже мотивации для этого. Для этого они должны изменить заложенные в них цели, а это неразумно даже с точки зрения математических теорий. Да и сама идея создания интеллекта, похожего на человеческий, пока выглядит недостижимой. Люди до сих пор не смогли даже изучить до конца собственный мозг, что уже говорить о том, чтобы его воссоздать.

И фантастические произведения не дают чёткого понимания, как такого достичь. В «Мечтают ли андроиды об электроовцах?» сознание андроидов отчасти создаётся благодаря имплантированным воспоминаниям, но в реальности мы пока не имеем понятия, возможно ли вообще «пересадить» память из одного мозга в другой.

А в «Из машины» сознание Авы появилось благодаря анализу триллионов поисковых запросов. Как утверждают инженеры, искусственный интеллект с самосознанием — безумно комплексная система, которая не может развиться из запросов в «Гугле».

Бизнесмены из ИТ-индустрии смотрят на будущее ИИ в основном оптимистично. Они уверены, что эта технология проникнет практически во все сферы жизни, как интернет в начале 21 века. Спустя несколько десятилетий наверняка появятся ИИ, умеющие думать и, может быть, даже чувствовать примерно как люди.

В ближайшем будущем программы заменят человека в профессиях с однообразной работой и даже на высоких должностях, но при этом сделают деятельность в некоторых сферах интереснее, создадут новые рабочие места и облегчат жизнь многим людям. ИИ помогут компаниям стать эффективнее и прибыльнее. Причём лучшие результаты, как считают бизнесмены, будет давать совместная работа человека и машины.

Совсем заменить людей у ИИ не выйдет — человек социальное существо, ему важно общение с себе подобными. Но предполагается, что примерно половина современных видов работ будет выполняться системами, использующими искусственный интеллект. По другим данным, распространение подобного софта упразднит около восьми миллионов рабочих мест в США. Это произойдёт не сразу: переход может занять десятилетия.

Но не все бизнесмены видят будущее позитивным. В марте 2023-го на сайте Института будущего жизни появилось открытое письмо с требованием приостановить развитие мощных ИИ минимум на шесть месяцев. В нём перечислены опасности, которые несут программы искусственного интеллекта: распространение фейковой информации и поддельных видео и фото, ликвидация рабочих мест и появление ИИ, превосходящих человеческие возможности.

Авторы призывают сделать паузу в разработке новых технологий, создать регулирующие органы для этой сферы, подготовить законную базу для привлечения к ответственности за вред, нанесённый системами искусственного интеллекта. Среди прочих письмо подписали Илон Маск и сооснователь Apple Стив Возняк. Правда, спустя несколько дней после публикации Маск основал компанию X.AI, которая будет заниматься разработкой ИИ, так что его мотивы подлежат сомнению.

ИИ — мощный инструмент с безграничным потенциалом, и без должного регулирования и строгой профессиональной этики в индустрии он может нанести человечеству много вреда. Пока неясно, к чему приведёт развитие и распространение этой технологии. Остаётся только надеяться, что правительственные аппараты и разработчики примут правильные решения.