Опыт и память: то, чего «не хватает» ИИ — или мы просто ошибаемся?

В предыдущих частях мы разобрали когнитивные искажения вокруг ИИ и развели три часто смешиваемых понятия: понимание, мышление и сознание. Каждый раз, когда разговор об ИИ упирается в предел, почти неизбежно звучит один и тот же аргумент: «У ИИ нет опыта». Попробуем разобраться, что именно мы имеем в виду — и насколько этот аргумент вообще состоятельный.

В человеческом мышлении — скорее да, чем нет. Возможен ли опыт без памяти? Это было бы событие, которое никак не зафиксировалось и не повлияло на систему. Такое событие не становится опытом. Возможна ли память без опыта? Это было бы пустое хранилище — формально существующее, но не наполненное. Это тоже не память в строгом смысле. Опыт — это изменение системы, зафиксированное во времени. Память — след этого изменения, позволяющий системе вести себя иначе в будущем. В человеческом случае эти два явления настолько переплетены, что практически неотделимы. Когда мы говорим «жизненный опыт», мы всегда имеем в виду именно эту связку.

Мы склонны воспринимать собственный опыт как нечто непрерывное и целостное — будто существует единая «лента жизни», к которой мы в любой момент можем получить доступ. Но это иллюзия. Человек никогда не имеет доступа ко всему своему опыту одновременно. Значительная его часть: забыта, вытеснена, искажена, реконструируется заново при каждом воспоминании. Память — это не архив, а процесс постоянной сборки. Мы не извлекаем прошлое — мы каждый раз его пересобираем. Если бы доступ ко всему опыту был полным и одновременным, сознание превратилось бы в перегруженную систему. Забывание — не сбой, а необходимое условие функционирования.

Опыт часто воспринимается как безусловная ценность. Но это ещё одна интуитивная ошибка. Опыт: не всегда адекватен текущим условиям; может быть неприменим к новой задаче; способен закреплять ошибочные стратегии; нередко мешает обучению и адаптации. Опыт вне понимания, мышления и контекста — бесполезен. Он не гарантирует ни правильных решений, ни глубины анализа.

Особенно показателен опыт людей с ретроградной или транзиторной амнезией. Человек может: терять значительную часть биографической памяти; забывать события, людей, фрагменты собственной истории; начинать «с нуля» в экзистенциальном смысле, и при этом сохранять способность понимать, мыслить, рассуждать, решать задачи. Это подрывает интуитивное убеждение, что целостный жизненный опыт является необходимым условием интеллекта. Опыт может исчезать, обновляться, искажаться — а когнитивные функции при этом продолжают работать.

Обычно под этим подразумевается отсутствие опыта бытия человеком: тела, эмоций, боли, социального контекста, смертности. Но здесь возникает неудобный вопрос. Люди, принадлежащие к одному виду, говорящие на одном языке и живущие в схожей культуре, тоже не способны прожить опыт друг друга. Мы можем: описывать, передавать, обучать, интерпретировать, но не переживать чужой опыт напрямую. Тем не менее, мы не отказываем друг другу в способности понимать и мыслить. Получается парадокс: к ИИ применяется критерий, которому никогда не соответствовал ни один человек.

Если рассматривать ИИ не метафизически, а операционально, мы видим следующее: ИИ работает с памятью; ИИ изменяется под воздействием данных; ИИ использует прошлую информацию для принятия решений; ИИ демонстрирует обобщение и перенос знаний. Это не человеческий опыт — но и человеческий опыт не является универсальной формой опыта. Различие лежит не в наличии или отсутствии опыта, а в: архитектуре памяти, способе фиксации изменений, доступе к прошлым состояниям, масштабе и скорости обработки.

Мы часто говорим, что пути ИИ «неисповедимы», подразумевая их загадочность или принципиальную непостижимость. Но это отражает скорее наши ожидания, чем реальное положение дел. Пути ИИ исповедимы, если: не искать в них человека; не требовать сознания как обязательного условия интеллекта; не подменять анализ антропоморфными проекциями. Возможно, проблема не в том, что у ИИ «нет человеческого опыта», а в том, что мы продолжаем считать собственный опыт универсальной мерой разума.

Текст создан с использованием ИИ как инструмента редактуры и структурирования. Содержание и позиция — авторские.