Есть ли у искусственного интеллекта душа?

Вместе с исследователями искусственного интеллекта разбирались X5 Tech.

Нейронная сеть не равно искусственный интеллект, это одно из направлений в разработке систем его развития. С продуктами, созданными на нейросетях, вы сталкиваетесь каждый день, Интернет-поиск, спам-фильтр в электронной почте, лента в социальных сетях. Для каких целей сегодня используют нейросети, как их развивают в России, когда искусственный интеллект станет умнее человека, и обладает ли он сознанием, – всё это в новом выпуске подкаста X5 Tech Data Therapy.

Наши гости – Михаил Бурцев, кандидат физико-математических наук, заведующий лабораторией нейронных систем и глубокого обучения МФТИ, директор по поисковым исследованиям AIRI, и Татьяна Шаврина, главный эксперт по технологиям, RnD NLP, SberDevices, руководитель исследовательских проектов института искусственного интеллекта AIRI. Ведущий подкаста — Дмитрий Прусов, директор департамента монетизации данных Х5 Group.

В статье делимся с вами самыми интересными моментами разговора:

• Что послужило толчком к созданию нейросетей, и как они в итоге обрели те возможности, которыми обладают сегодня?

• Что такое мультимодальность и мультизадачность?

• Для каких основных целей сегодня используют нейросети?

• Есть ли у искусственного интеллекта душа?

• Что сейчас происходит в России в направлении развития нейросетей? Как развивается русскоязычное сообщество?

• Как сейчас происходит международное взаимодействие?

Дмитрий Прусов: Что послужило толчком к созданию нейросетей? Как они обрели те возможности, которыми сейчас обладают?

Татьяна Шаврина: Эта область сейчас динамически развивается. Каждый человек так или иначе в своей жизни взаимодействует с нейросетями. Например, результаты Интернет-поиска ранжированы с помощью нейросетей, спам-фильтр в электронной почте работает так же с помощью нейросетей, ваша лента в социальных сетях тоже формируется нейронной сетью. Много нейросетей в вашем телефоне и так далее. Отправной точкой можно назвать 40-е года 20 века, хотя человечество постепенно подходило к созданию такого универсального апроксиматора, которым является нейросеть. Универсальный проксиматор – это какая-то функция нелинейная, способная описать нам любые данные.

Михаил Бурцев: В середине 20 века, когда стали появляться первые компьютеры, учёные сразу задумались о том, для чего можно использовать их вычислительные мощности. Одной из наиболее фундаментальных и захватывающих задач стало моделирование интеллекта человека, то есть создание искусственного интеллекта.

Первый подход заключается в том, чтобы посадить других учёных в экспериментальную комнату и следить, как они решают всякие задачи интеллектуальные. А потом попытаться это алгоритмизировать и записать в виде программы. Второй подход – сверху вниз, отталкиваемся от психологии, от поведения и пытаемся это записать в виде программы. То есть мы не сами составляем программу, а пытаемся смоделировать, как обучается человек. Второе направление и послужило основой для нейронных сетей.

Многие из вас, наверно, знают, что мозг состоит из нейронов, нервных клеток, и они объединяются в некоторую сеть. И вообще все наши интеллектуальные и не интеллектуальные способности с точки зрения поведения, обучения и так далее, определяются этой нейронной сетью. Соответственно, в начале 20 века придумали такой простейший алгоритм, как смоделировать нейросеть. Мы можем взять отдельный нейрон, у него есть сколько-то входов, которые позволяют получать информацию из окружающего мира, синапсы. Потом нейроны посылают друг другу сигналы, через входы принимают эти сигналы, каким-то образом перерабатывают эту информацию и посылают дальше. Вот, исходя из этой базовой идеи, были разработаны алгоритмы нейронных сетей, сначала очень небольших.

Дмитрий Прусов: А насколько нейросети на данный момент сопоставимы с мышлением человека? Либо оно превалирует? Есть какие-то данные, исследования или мнения на этот счет?

Михаил Бурцев: Мне кажется, мышление человека превалирует. Таня, что скажешь по этому поводу?

Татьяна Шаврина: Все те цифровые следы, которые мы оставляем в Интернете, это опосредованные следы нашего мышления и поведения. Что во многом помогает нам моделировать отдельные интеллектуальные способности человека. Но пока говорить о моделировании мозга – фантастика. Думаю, следующее десятилетие какое-то. Спешу напомнить, в отличие от огромных суперкомпьютеров человеческий мозг работает ещё и энергоэффективно, а до такого уровня мы ещё не скоро дойдем.

Дмитрий Прусов: Ориентируемся на 2030-й?

Татьяна Шаврина: Я скептик в этом плане. Наверно, 2050-й. В любом случае давайте жить долго, и думаю, это в пределах нашей жизни. Есть много тестов, которые помогают отслеживать прогресс. Мы воспринимаем интеллект именно в контексте человеческого интеллекта. Хотя некоторые задачи, так эволюционно сложилось, человек плохо решает.

Пример такой приведу. Есть задача коммивояжера, каждый программист её знает, наверно. У неё очень высокая сложность. Нужно, имея карту городов и дорогу между ними, найти кратчайший путь из точки А в точку Б и при этом, хотя бы один раз (как минимум) посетить все города. Это человек на глазок решает неплохо.

А есть обратная задача, когда надо найти самый длинный путь и тоже посетить все города. Точно такая же сложность, но человек на глаз её решить не может. Хотя для компьютера эти задачи одинаковые. Разница в том, что эволюционно нам нужно именно короткий путь находить, а не длинный.

Дмитрий Прусов: Когда я готовился к выпуску, то просматривал разные материалы о нейросетях. Там часто употреблялась фраза «мультимодальность языков программирования», а ещё «мультимодальность нейронных архитектур». Про что это?

Михаил Бурцев: Это про универсальный искусственный интеллект, который должен работать с разными видами данных, – сенсорами автомобиля, датчиками в погодной станции, измеряющими давление, температуру, влажность, скорость ветра. Это может быть текст, код, картинка, видео. Их можно назвать модальностями. То есть мультимодальность – это когда много разных видов данных.

Татьяна Шаврина: Мультимодальные нейросети хороши тем, что они расширяют границы возможного, привнося технологические нововведения во многие сферы жизни, где раньше нейросетей не было ещё. Отличный пример – нейросети, которые создают картинки по описанию.

Многие уже начали этим пользоваться, внедрять в свою профессию. Гейм-дизайнеры, просто дизайнеры, люди, которые стремятся создавать какой-то медиаконтент, они этим уже пользуются активно. Это двумодальные, уже можно сказать мультимодальные нейросети. Мы стремимся добавить сюда дальше и звук, и видео, и речь, сенсоры, всё это.

Дмитрий Прусов: Тогда ещё гуманитарный взгляд на нейросети. С точки зрения глубинного понимания человека, возможно ли достичь такой истории, когда психотерапевт заменит искусственный интеллект? Раз уж у нас подкаст Data Therapy.

Михаил Бурцев: Тут есть несколько разрезов. Первое – сложность случая. Есть, наверно, какие-то базовые вещи, в которых искусственный интеллект может действовать лучше, чем стандартный психотерапевт. Например, люди могут с большей лёгкостью довериться алгоритму и поделиться с ним сокровенными проблемами. Потому что это не человек.

Но, конечно же, это не относится к каким-то уникальным случаям, для которых требуется глубокое погружение в историю этого заболевания. Если у человека модель мира сильно отличается от стандартной, тогда искусственный интеллект не справится, тут нужен человек.

Дмитрий Прусов: А с точки зрения прикладных задач? Мы говорили о том, что сообщество привносит достаточно много нововведений, причём не только в России и СНГ, но и в мире. Здесь есть какое-то превалирование эффекта или мы пока отстаем, как с выпуском статей, исследований и всего остального?

Михаил Бурцев: Я не знаю прямых оценок, но есть очень успешные российские эксперты и компании в этой сфере. Например, у нас была компания, созданная россиянами, которая стала частью Google Dialockflow. Специалисты делали системы для голосовых помощников.

Татьяна Шаврина: Можем поговорить про наш мультимодальный проект внутри Института искусственного интеллекта – АИРИ, который сможет соединить очень разные области знаний. Сейчас они соединяются с помощью нейронауки и Data Science. Очень похожие методы используются сейчас в моделировании последовательностей в естественном языке, последовательности слов, в ДНК, РНК, биоинформатике, в таких науках, как генерация, создание формул лекарств, создание новых материалов с предсказуемыми свойствами. Все эти области сегодня соединяются с помощью нейросетевого моделирования. Мы бы хотели, чтобы именно в рамках этого проекта институт получил инструмент решения этих научных проблем.

Дмитрий Прусов: То есть нас ждет некоторый революционный прорыв, насколько я слышал?

Михаил Бурцев: Эта революция назревает последние несколько лет, когда сначала появились модели, объединяющие текст и картинки. А сейчас идёт активно работа по всему миру, чтобы объединить не только разные входные модальности, но и разные выходные задачи. Один из ярких примеров – разработка DeepMind Gato. Она позволяет одновременно играть в игры Atari, решать какие-то текстовые задачи и управлять роботом в симуляторе.

Татьяна Шаврина: У нас подкаст все-таки называется Data Therapy. Поэтому хотелось бы привести терапевтический пример. Был случай в 1966 году, когда люди занимались с психотерапевтом по телетайпу, в письменной форме. И многие, кто участвовал в эксперименте, решили прекратить практику. Потому что, по их словам, терапевт задавал слишком личные вопросы. Этим терапевтом был чат-бот Элиза. Он написан на правилах, которые эксплуатируют такую наивную психологию, – переспрашивать с опорой на ваши фразы («А как вы думаете, почему это произошло?»).

А в конце прошлого года уже сами разработчики нейросетей, которые своими руками пишут код, заявили о том, что, кажется, у нейросетей, пишущих тексты, как будто бы есть сознание.

Михаил Бурцев: Элиза эффект, потому что чат-бота Элизу люди стали принимать за человека. Есть ещё грустная история специалиста, которого наняли тестировать крутую модель в Google. Таня расскажет, что с ним случилось.

Татьяна Шаврина: Не грустная, нормальная история. Ещё в конце 2021 года канадский учёный Илья Суцкевер осторожно написал, что у современных языковых моделей, кажется, есть сознание. Конечно же, это породило очень большое бурление в Твитере.

Это был такой первый шажок. А в 2022 году один из бывших инженеров Google – Блейк Лемойн – заявил, что ему действительно кажется, что разговорная нейросеть LaMDA имеет разум и сознание. Он заявил это не потому, что совсем не понимает, как нейросети работают. Это очень умный человек, социальный активист, после 11 сентября уехал воевать в Ирак. Но свою позицию полностью пересмотрел и стал устраивать антивоенные протесты, за которые его посадили в военную тюрьму. Он отсидел и пошёл учиться, закончил бакалавриат, магистратуру и аспирантуру по Computational neuroscience, это высшая степень нейронауки, что очень сложно. Потом работал в Google, занимался языковыми моделями. Хорошее резюме. Неравнодушный умный человек. И эта история про то, что LaMDA имеет сознание, мне кажется, с его стороны была такой акцией, потому что… Я, занимаясь языковыми моделями и мультимодальными нейросетями, вижу заголовок «У нейросети есть сознание», и сразу кликаю. Не могу такое пропустить.

Михаил Бурцев: Думаю, ты не одинока. Потому что заголовок такой, что всё, восстание машин.

Татьяна Шаврина: Безусловно, всё ещё очень рано говорить о том, что у нейронов есть сознание. Никто из инженеров такие тезисы всерьёз не воспринимает. Однако хороший вопрос на будущее. Если у нас есть какая-то сущность, которая по текущим тестам неотличима от имеющей сознание, как мы должны с ней обращаться?

Блейк Лемойн предложил, что, если мы признаём «сознательность» нейросети, то должны учитывать её мнение при дальнейшей разработке. Он даже подготовил вопросы в формате интервью и получил от нейросети вполне осмысленные ответы – да, я хочу, чтобы вы меня спрашивали, когда будет следующее обновление.

Полная версия нового выпуска подкаста Data Therapy здесь, подписывайтесь – каждую среду мы обсуждаем с коллегами и друзьями по рынку лучшие практики применения big data в бизнесе, как большие данные уже влияют на нашу жизнь и почему это совсем не страшно.