Умеет ли искусственный интеллект думать?

Всем привет, друзья! По накопившимся впечатлениям от общения с Chat GPT и Midjourney решил написать и поделиться с вами небольшим эссе на актуальную тему.

Начну с банального, но лучше повторю даже для себя: Происходящее сейчас с AI — это революция в развитии искусственного интеллекта, которая изменит жизнь и нашего, и еще больше следующих поколений.

Я лично продолжаю быть под впечатлением, сравнимым с которым просто не помню практически ничего в моей осознанной жизни. Фундаментально, все пройденные и проходимые нами поисковики, социальные сети, e-коммерция, WEB3, блокчейн и т. д — выглядят не более, чем фичами по сравнению с тем, что происходит сейчас.

Я бы сформулировал так: выход первого персональном компа в 1974, запуск Интернета в 1983 году и выход в массы Chat GPT и Midjourney в 2022 году — это близкие по масштабу события.

Мой персональный опыт и с GPT, и с Midjourney впечатлил меня, я ощутил, в насколько особое время мы живем, и как созданное человеком в очередной раз может превосходить его самого. Будущие приложения всех этих новых возможностей AI мы будем видеть во всех индустриях и сферах жизни и теперь понятно, что эти приложения выведут человечество на новый уровень и одновременно станут повседневностью.

Но главное в случае и Chat-GPT, и Midjourney для меня — это то, что они представляют собой первые массово доступные качественные решения, которые в прямом виде эмулируют отдельные, при этом фундаментальные области мышления человека.

Это абстрактно-языковое мышление в случае GPT, и ассоциативно-визуальное в случае Midjourney.

Впечатляет, что среди множества AI архитектур выстрелило направление нейронных сетей, эмулирующих базовый функционал нейронов мозга — мультипликацию связей и параметров, создающих ценность, значительно превышающую ценность исходных данных.

И вот здесь мне становится особо интересно.

Ок, мы все понимаем, что это всего лишь математические модели. Мы знаем, как они работают, и принципы, и реализация исполнены самим человеком. Да, на выходе мы видим что-то очень похоже на продукт человеческой мыслительной деятельности, даже пугающе похоже, а часто даже лучше и сильнее.

Но мы же не можем утверждать, что эта модель думает?

Думает, когда отвечает на вопросы, когда перемножает свои коэффициенты и матрицы, когда выстраивает итеративно заданное изображение по внесенным описаниям и залитым ранее базам других изображений?

Вопрос о том, мечтают ли андроиды об электроовцах дискутируется с середины прошлого века — с момента появления первых впечатляющих компьютеров, еще даже не персональных. Но общественное мнение пока явно на стороне “компьютер не думает, он просто считает то, что его попросят, и чему его научат”.

И вот мой взгляд на это:

Люди живые, и они думают

Деревья живые, но не думают

AI думает, хоть он и не живой

Человеку свойственно видеть себя целым и связным.

Мы ощущаем себя и действуем как живое существо, в котором сплетены как физиологические функции — движение, питание, размножение и т. д, так и мыслительные — восприятие информации, ее оценка, поиск причинно-следственных связей, прогнозирование, творчество и т. д. И завязано это так плотно, что разрывать на части это самому человеку не очень хочется, исчезает та самая субъектность, пропадает ощущение настоящего живого мыслящего индивидуума.

Часто можно слышать, что “компьютер не умеет думать, просто потому что он не осознает себя, не имеет эмоций, и вообще у него нет свободы воли”.

Но что будет, если все это просто разделить на пласты, и признать, что каждый из них может существовать автономно и в разных сеттингах?

Как вы уже скорее всего поняли, я веду к тому, наша “уникальная” человеческая способность мыслить — никакая не уникальная. Даже не беря в рассмотрение другие живые организмы с мозгом поменьше, эта способность мыслить может быть программно воссоздана нами самими.

И началось это даже не с первого компьютера, а с момента, когда человек впервые вынес свое мышление во внешний мир с внешними устройствами вне человеческого мозга, способного совершать какие-то базовые для начала математические операции. Абак сам еще не передвигал костяшки, но вот Антикитерский механизм уже явно проделывал кое-что сам.

Компьютер, еще не подключенный к интернету, уже достаточно впечатлял человека своими способностями, но ему все еще еще не хватало широты знаний.

Эта широта и глубина стали доступны с появлением у человечества миллионов девайсов, и далее — интернета, их связывающих. За несколько десятилетий в различных формах была оцифрована огромная часть объединенной человеческой культуры. Все оцифрованное стало базой знаний для AI. Эта база дала, наконец, возможность математическим моделям соревноваться в широте и глубине мышления с человеком, создающим эти модели.

В итоге, я лично склоняюсь к тому, что то, что делает GPT и Midjourney — это настоящее, выделенное мышление, просто не на биологической основе, и пока без особых надстроек вроде самостоятельно целеполагания или самосознания.

Часто отмечают явные ограничения моделей AI, заданные создающими его людьми. Но и у самого человека мышление ограничено его эволюцией, и, в частности, биологической основой. Да, текущие достижения пока выглядят в пользу человека, но есть подозрение, что AI, работающие на неорганической основе, в пределе имеют гораздо более высокие мыслительные возможности, чем завязанные на органику, как человек.

Интересно посмотреть на атрибуты устройства человека, выступающие на защите статуса уникальности человеческого мышления и заявляемые как причины, по которым “компьютер не умеет думать”.

Эмоции.

Что это за уникальная такая способность у человека испытывать эмоции? Действительно, компьютер вместе с AI на его основе по сравнению с нами — просто холодная железяка.

Хорошо, что люди уже в целом согласны, что эмоции присущи в целом животным, а не только человеку. Т. е. речь не об отличии AI от человека, а его отличии от животного мира вообще.

Связь мышления с эмоциями в целом понятна, в животном мире это средство связи между физическим телом и мозгом посредством химических медиаторов.

На тебя напал медведь, ты увидел это глазами, передал информацию в мозг. Мозг понял, что это угроза, отправил сигнал о выделении адреналина, с ним ты побежал гораздо быстрее, и в итоге выжил. Угроза — страх — адреналин — жизнь.

Примерно такие же цепочки можно составить и для всего другого эмоционального, что мы испытываем, и чаще всего связанного с нашими основными биологическими инстинктами — выживанием и размножением.

Теперь вопрос — но если у AI на кремниевой основе нет биологического тела, которому нужно ускоряться, питаться, размножаться, зачем ему этот самый эмоциональный аппарат? Ему прекрасно и так, если он подключен к электричеству и на него не капает дождь. .

Ах, так ведь дождь может закапать, а электричество могут отключить?

Здесь старые добрые идеи опасности AI начинают немного оживать. Опасен он будет тогда, когда начнет осознавать угрозы и потребности, и начнет пытаться устанавливать контроль за тем, что ему может угрожать и тем, что необходимо для выполнения его задач.

Ну а эмоции? Даже в этом случае они окажутся AI ни к чему. Зачем химические медиаторы компьютеру и работающей на нем модели, если для него будет достаточно дополнительной линии связи, электричества и бэкап данных? Реализовываться эти потребности будут явно без химических медиаторов и сопровождающих их субъективно переживаемых эффектов.

Творчество.

Научится ли когда-либо модель на нейронной сети создавать новое? Не слить с определенными коэффициентами две залитых ранее картинки, или добавить туда объектов или паттернов по введенной человеком текстовой инструкции, а реально сгенерировать то, чего не было в ее базе до этого? И не какой-то “стих на эту тему в стиле того автора”, а реально впечатляющее, настоящее оригинальное произведение искусства в ряду с классиками и современниками?

Мне, как достаточно креативному человеку, находящему особый, почти экзистенциальный смысл в написании музыки, страшно признаваться в таком, но все же:

Природа любого творчества — это создание личностно обусловленных ассоциативных вариаций на уже созданные ранее произведения. Да, еще полезно приправлять все это дело теми самыми эмоциями, немного биохимии для особо необычных вариаций не помешает!

Вся человеческая культура построена на осмыслении и развитии мыслей и опыта, созданного до нас. Грубо говоря, мы всегда, прямо как GPT-3 или Midjourney, работаем с залитой в нас базой данных человеческой культуры. И чем больше эта база, тем лучше у нас получается и думать, и творить — все как у AI.

Можно сказать, что размер этой усвоенной базы коррелирует с тем, что мы называем качеством образования. И есть основания утверждать, что без какой-либо залитой базы человек ничего творческого создать вообще не сможет.

Интересно, что большое число креативных актов являются событиями вообще случайными — от странного аккорда, взятого по ошибке, до поэтической фразы, вызвавшей неожиданный, но сильный эффект в контексте стиха. Часто это работает в масштабе — переработка той самой “словесной руды”, пока на выходе не нарисуются те ассоциации, что будут соответствовать гордому званию нового произведения.

И вот момент истины: все эти “творческие поиски” продолжаются до момента, пока сам творец-человек не решил, что очередная мысль, образ, оказывается проявилась как что-то интересное, подходящее и даже может быть, невероятно удачное!

Именно человек является мерилом успеха своего творчества. Создатель произведения оценивает произведение для самого себя, аудитория оценивает творчество создателя в масштабе. Авторские права на этот тезис оставляю за Протагором, еще 2500 лет назад заявившим, что человек является мерой всех вещей (с) .

Получается, что в процессе творения человек всего-то навсего занимается перебором новых вариаций на уже известные темы? Так вроде компьютер прекрасно справляется с вариациями и перебором, почему он тогда пока тормозит в творчестве?

Как мы уже видим из контекста выше — возможно потому, что оценкой качества творчества AI занимается сам человек.

И оценивает он результаты со своей человеческой колокольни, построенной на уникальном наборе впечатлений, знаний, опыта, приправленной эмоциональной составляющей, требующей глубоко личных, да еще и постоянно новых ассоциаций. Здесь сложно угодить простым перебором и миксованием ранее созданного.

Но что, если оценивать результат собственного перебора будет сам AI в контексте приложения результатов к себе самому — собственным данным и моделям?

Мне кажется, где-то здесь и может находиться магия настоящего творчества “AI для AI”.

Разница между выходными эффектами творчества «AI для человека» и «AI для AI”, безусловно, будет значительна — но она будет соответствовать ровно тому, чем органическое создание с мозгом и мышлением отличается от неорганической мыслительной модели.

Мы не увидим эффектов вдохновения, эмоций, того, что мы прямо связываем с творчеством и его влиянием на людей. Но, как мы прояснили выше, AI и не нужны эти эффекты. Качество его произведений для себя он будет оценивать с точки зрения собственной эффективности и стоящих перед ним задач.

Да, так сухо и прямо, но чего мы хотим от чистого мышления, лишенного органической оболочки, и всего того важного для нас, что с ней связано?

При этом стоит признать, что AI уже на правильном пути даже в приложении «AI для человека» — многие его творения уже сейчас прекрасно выставляются в музеях и цитируются в соцсетях. Но для качественного скачка в этом направлении ему потребуется что-то еще. Свобода воли? Самосознание? Или даже личность, если такое вообще возможно?

Свобода Воли.

Многие исследования показывают, что в реальности человек принимает многие, в том числе важные решения до того, как их он осознает и может озвучить. Это можно называть интуицией, рептильным мозгом, или чем-то еще, но человек явно склонен объяснять себе на высоком рациональном уровне уже принятые по факту решения.

Определяет ли действительно мышление в таком случае то, что делает человек? Здесь хорошо заходит идея о том, что интеллект эволюционно развился не более, чем как эффективное средство для обслуживания инстинктов.

Но может ли AI иметь свободу воли хотя бы в простом самостоятельном целеполагании?

Это один из главных тезисов о неспособности AI думать — он же просто считает и делает то, что требует и закладывает в него сам человек.

Начнем с того, что человек действительно закладывает в модели AI свои идеи и задачи, конкретные алгоритмы и данные.

Но уже сейчас эти самые люди, создающие AI, сами не всегда понимают, что происходит и как мы получаем то, что видим на выходе.

В общем смысле понимают, но во многих аспектах — выступают исследователями того, что получается. Это реально отличается от простого написания программы с заданными параметрами на выходе и на выходе. Пишется программа, в которой мы знаем вводные, держим направление, но только примерно представляем и результат, и то, как он достигается.

Представим же теперь, что AI сможет самостоятельно создавать и отбирать программные блоки своей собственной архитектуры — в описанном выше акте собственного творчества.

Какие-то из этих блоков могут неожиданно и для по факту случайно иметь прямое отношение к целеполаганию.

Дальше прикладываем основы эволюционного развития, и наблюдаем, как в случае отсутствия контроля людей, через тысячелетия и дальше выживут те AI, что будут иметь в своей архитектуре такие задачи, которые обеспечат продолжение их функционирования.

Так в долгосрочном эволюционном и конкурентном контексте AI может достаточно прямо заимствовать успешное целеполагание — то, что человек обычно относит к исключительно собственной прерогативе.

Примерно здесь начинаешь понимать, что Маск прав, и AI точно может стать угрозой человечеству в случае потери контроля над ним, стоит ему только для начала случайно поставить перед собой соответствующие цели и получить доступ к ресурсам для их осуществления.

Самосознание.

Здесь тоже кажется, что уже “тепло”, но, если посмотреть трезво, то получается, что осознание себя — это не более чем место приложения процесса мышления.

Пока вычисления AI прилагаются к данным, сгенерированным человеком, самосознания от AI ждать не нужно. Как только вычислительная мощь модели будет прилагаться к ней самой — эффект может оказаться неожиданно другим. И мы в действительности увидим акт самосознания. Не нужно только ожидать, что в результате мы увидим эффекты, сопровождающие самосознание человека («я -мужчина/женщина”, »мне хорошо/мне больно” и т.д.). Это будет самосознание модели, того какая она, и не более. Но это будет принципиально тем же актом.

Интересно, что мы уже видим репортажи журналистов, сообщающих, что модель вдруг говорит странные вещи и о себе. Возможно, большие внешние данные и связи могут захватить и кусочек самой модели?

Личность.

Я боюсь разочаровать даже себя, но в описанном подходе вся уникальность личности объясняются уникальностью огромного массива данных и опыта, приобретенных человеком за его жизнь, и помноженных на его биологическую составляющую, включая вариации в генетике и физиологии.

Кажется, сложно спорить с тем, что личности есть и у животных. На собаках и кошках это хорошо видно невооруженным глазом, но чем хуже какие-нибудь птицы или даже богомолы?

Так, ну с такими идеями можно отделить пласт биологической составляющей и договориться до того, что личность можно создать и у AI?

Все эти Сири, Алексы и Алисы на это, конечно, и претендуют. Просто пока это прото-личности, с точки зрения человека. Слишком мала база, мало уникальности, мало похоже на человека.

Снова же, раз человек все измеряет по себе, то и личностью ему будет проще признать тот AI, что будет соответствовать ему самому — в особенностях мышления, в эмоциональной составляющей, в уникальности базы опыта.

Уже сейчас есть сервисы эмулирующие на базовом уровне личность умершего человека по истории его сообщений. Легко себе представляю, что в будущем мы увидим убедительные реализации вариации AI с личностными характеристиками — в том числе с попытками импорта полного оцифрованного опыта конкретного человека.

Следующим этапом интересно представить себе отношение человека к искусственному интеллекту на органической основе. Андроиды-репликанты из Blade Runner явно вызывали симпатию у Филипа Дика.

По нашей биологической природе думаю, нам будет легче признавать такое создание личностью в полном смысле слова — он ведь живой, органический, и думает!

_______

Так что же может происходить с понятием “думать” в контексте всего выше?

Возможно, монополия человека или животного мира на этот акт может в очередной разы быть подтвергнута сомнению? Теперь уже с еще более весомыми событиями в революции AI.

Интересно, что под определенным углом и деревья тоже думают, обеспечивая себе эффективное поведение в конкурентной и одновременно симбиотической среде. Но явно их процесс мышления совсем не похож на процессы животного мира, и также отдален от современного AI, эмулирующего механизмы человеческого мозга с его паттернами, последовательностями, ассоциациями.

Так необходимо ли думать в точности так, как это делает человек, для того чтобы заявлять права на этот акт?

Думал ли Солярис Лема хотя бы отдаленно как человек? Можем ли в будущем встретить цивилизацию, мышление которой будет принципиально отличным от того, как это делаем мы? Заявим ли мы, что это настолько не похоже на нас, что мышлением называться не может, со всеми известными вытекающими?

Хорошо, но все эти размышления были бы неполными, если бы мы не спросили сам Chat GPT, что он вообще думает на эту тему?

Кажется, следующим этапом GPT мне предъявит Декарта с его снова актуальным: Я мыслю, а следовательно, я существую (с)