Воображение и искусственный интеллект

Воображение – то, что отличает человека от машины, потому что это особая форма абстрактного мышления. Настолько абстрактного, что способна породить вещи, не существующие в реальности. Мы никогда не сможем наделить им ИИ.

Или сможем?

Что вообще представляет собой воображение, в какой части мозга оно происходит и можно ли его воспроизвести, скажем, в языковой модели? Сегодня попробуем с вами в этом разобраться: понять, что знает о воображении современная наука и можно ли его перенести на ИИ хотя бы в какой-то части.

Я здесь часто пою оды нашему восхитительному мозгу – и есть, за что, в самом деле. Просто задумайтесь, какая это удивительная система: не сходя с места, мы можем в своей собственной голове прожить целый сценарий и довести себя до такого состояния нервного напряжения, которое отразится физически в нашем теле. Я сейчас даже не говорю о ситуации, в которой мы себя накрутили до панической атаки – ком в горле, учащенное сердцебиение, нервная тошнота в ответ на тревожные мысли тоже считаются. Или, в более позитивном сценарии, улыбка, румянец на щеках в ответ на мысли приятные. Или повышенное слюноотделение при мысли о скором обеде (мне интересно, посмотрели ли вы сейчас на часы).

Разумеется, ученые задавались вопросом о том, как это все работает.

Мое внимание привлекла статья «The “Instinct” of Imagination. A Neuro-Ethological Approach to the Evolution of the Reflective Mind and Its Application to Psychotherapy» («“Инстинкт” воображения. Нейроэтологический подход к эволюции рефлексии и применение этого подхода в психотерапии»).

То есть, ученые смотрят на поведение, на активность мозга и стараются выявить взаимосвязи между ними. Разбирая эту работу, я сконцентрируюсь на эволюционном и физиологическом ее аспекте и намеренно опущу психотерапевтическую часть, поскольку моя цель в данном случае – подойти со стороны воображения не к человеку, а к ИИ.

После изобретения электроэнцефалограммы люди (конкретно сам изобретатель Ханс Бергер) узнали, что мозг остается активным в периоды отдыха – это было в начале двадцатого века. С появлением новых методов исследования, таких как магнитно-резонансная томография, эту активность продолжали изучать. Например, исследования Маркуса Райля (Marcus E. Raichle) показали, что активная умственная работа, в частности решение сложных математических задач, увеличивает потребление мозгом энергии меньше, чем на 5%, по сравнению с потреблением энергии в состоянии покоя.

Другие исследователи заметили, что некоторые зоны мозга активны в период отдыха и «выключаются», когда человек концентрируется на решении конкретной задачи. Расположение этих зон повторялось из исследования в исследование, и тогда им дали название – сеть пассивного режима работы мозга (default mode network, СПРРМ).

Эта сеть активна, когда человек не сфокусирован на чем-то конкретном во внешнем мире и отдыхает, но не спит. Она также активна во вне, в фазе быстрых движений глаз, в которой нам обычно что-то снится. И именно она поглощает такой значительный объем энергии, на фоне которого прирост потребления энергии для решения сложных задач выглядит совсем небольшим. Это чем таким мозг занимается в периоды расслабления?

По всей видимости, обрабатывает информацию, которая непосредственно относится к человеку, мозг которого мы рассматриваем: самоощущение, собственный опыт и все, что несет в себе большой эмоциональный заряд, то есть, то, что для человека является эмоционально значимым. Повреждения лобной части СПРРМ приводят к неспособности человека сформировать устойчивое и адекватное представление о себе – то есть, эта сеть важна для самосознания и самовосприятия.

Итак, воображение находится здесь.

Если совсем по науке, мы не можем ни про какую функцию сказать: «Здесь,» – и ткнуть в конкретный участок мозга. Функции распределены, мозг пластичен, поэтому зачастую такие термины, как «речевой центр» или «зрительный центр» – удобные упрощения. Но здесь мы не будем заострять на этом внимание.

СПРРМ также связана со снами, «брожением разума» (mind wandering – когда вы не думаете ни о чем конкретном, позволяя потоку мыслей развиваться самостоятельно), ассоциативным мышлением и креативностью.

Интересно, что подобные структуры и мозговая активность обнаружены у других животных, даже у рептилий. Авторы статьи предполагают, что СПРРМ – весьма древняя структура, которая в том или ином виде может присутствовать у всех позвоночных. Поэтому они назвали воображение «инстинктом», подразумевая, что это, в некотором роде, режим работы мозга по умолчанию. В подтверждение этой гипотезы они приводят исследования, проведенные на эмбрионах: в третьем триместре беременности у них наблюдается мозговая активность, схожая с активностью в фазе быстрых движений глаз во сне.

Воображение – штука полезная не только для отдыха и развлечения. Оно помогает планировать и решать сложные задачи, так что идея как-нибудь его засунуть в ИИ исследователей волнует давно. Не уходя в детали, перечислю здесь некоторые проекты, целью которых было воспроизведение схожих с воображением механизмов.

DeepMind – подразделение для исследований и разработок в области ИИ в Google – в 2017 году выпустило две статьи: «Imagination-Augmented Agents for Deep Reinforcement Learning» («Дополненные воображением агенты для глубокого обучения с подкреплением») и «Learning model-based planning from scratch» («Обучение планированию на основе моделей с нуля.»)

В этих статьях предложены следующие подходы:

Вскоре после этого появились World Models (модели мира или модели с пониманием окружающего мира – как-то так можно перевести). Они тоже полагаются на моделирование окружающего пространства, чтобы учитывать законы физики и причинно-следственные связи. Данные могут поступать с разных сенсоров, которые используются, например, в робототехнике.

Модели мира появились примерно в то же время, что и языковые модели, но они не так широко известны (всё-таки завести продвинутого робота себе пока не каждый может). Я про них планирую отдельный пост, может, в телеграме сделаю как-нибудь попозже, поэтому в подробности пока вдаваться не буду.

Еще один пример мы разбирали – симуляция поведения людей с использованием ИИ-агентов. Там наделали агентов, дали им роли и настроили память так, что агенты смогли планировать действия и кооперироваться.

Если обобщать, то симуляция воображения применительно к ИИ включает в себя следующие компоненты:

Может, я что упустила, но вот эти компоненты мне видятся особенно важными.

Работа с памятью – это большая и интересная тема. Одно дело – записать диалог с пользователем, например. Другое – обработать всю полученную информацию и перезаписать ее в виде выводов и закономерностей (как раз то, что сделали авторы эксперимента с симуляцией). И дальше можно использовать прошлый опыт для планирования на будущее.

Сложные подходы к рассуждениям включают в себя не только рассуждения «шаг за шагом», но и, например, рассуждения с возможностью вернуться на шаг назад и исправить сделанные ранее ошибки. Если объединить их с механизмами обработки памяти и использовать предыдущий опыт решения задач, получится система со способностью к самообучению – некоторые продвинутые агенты сейчас так могут. Я использую, например, Cursor – это среда для разработки с ИИ-ассистентом. К ней можно подключить разные расширения, в том числе векторные базы данных для хранения кода, и агент сможет к ним обращаться, чтобы использовать ранее созданные удачные решения.

Про восприятие окружающего пространства и то, как оно влияет на способности ИИ, мы тоже говорили раньше. Это направление особенно важно в таких областях, как робототехника или беспилотный транспорт, но и для «обычных» агентов оно тоже полезно: будут отвечать на вопросы точнее.

В общем, если всё соединить, будет интересно.