Эволюция или революция: что ждёт искусственный интеллект

Всем привет, меня зовут Виктор Николаевич Ноздрачев. Мне 73 года, я кандидат физико-математических наук и ведущий исследователь в Humanteq.ai

Человечество уже отправляет роботов в космос, учит их распознавать людей по голосу и «селит» в беспилотные автомобили, и это явно ещё не предел возможностей искусственного интеллекта. Но способен ли он достигнуть той степени развития, на которой он станет равным человеческому разуму? Поговорим о перспективах этого.

Машинное обучение уже помогает решать многие прикладные задачи. Например, создавать алгоритмы для победы игры в шахматы. Программе AlphaZero, по утверждению разработчиков, удалось при обучении обойтись без априорной информации, накопленной за века шахматистами.

Шахматы — это полностью формализованная игра, и для выигрыша не нужно никакой информации, кроме правил. Алгоритм за одни сутки достиг уровня гроссмейстера, играя при этом сам с собой.

Такие новости радуют специалистов, которые выступают за обучение с подкреплением, и могут вызывать тревогу у людей, далеких от информационных технологий. Ведь может показаться, что полноценный искусственный интеллект уже существует и совсем скоро во всём обгонит человека.

С другой стороны, с некоторыми задачами искусственный интеллект всё ещё не справляется, даже достигнув неплохих результатов. Например, в области распознавания двумерных образов благодаря машинному обучению созданы специальные датасеты легко распознаваемых человеком изображений. Но доля ошибок алгоритмов на них превышает 95%.

Автоматическое распознавание лиц, автомобильных номеров или военных целей — важные прикладные задачи, и любая возможность ошибки здесь должна быть сведена к минимуму. И пока что даже эту группу задач нельзя считать полностью решённой.

Решая действительно сложные задачи, машинное обучение в естествознании пока играет вспомогательную роль. И в этой работе оно не может обойтись без априорной информации о законах природы.

В физике частиц высоких энергий, где с большими данными работают уже больше полувека, не так уж много сфер применения современного искусственного интеллекта. Задачи естествознания не могут считаться полностью формализованными: в экспериментальных данных всегда присутствует некоторый шум факторов, которые мы не учли в своих теориях, а это влияет на точность результатов.

Чтобы понизить значимость этого шума, приходится использовать априорную информацию о законах природы, но она может отсутствовать в исходных данных в явном виде. Другой путь увеличения точности — наращивание объёма входных данных в надежде обнаружить и отделить друг от друга проявления всех природных закономерностей.

Если бы физики попытались открыть бозон Хиггса без прямого использования квантовой теории, тогда на сбор статистики, которой и так очень много, пришлось бы потратить в сотни раз больше дорогого времени большого адронного коллайдера.

Fermionic Neural Network от DeepMind, самый успешный пример применения машинного обучения в органической химии, использует фундаментальные физические закономерности уже в представлении входных данных. И это даже отражено в названии.

Насколько значима априорная информация в сложных задачах, видно на примере Word2Vec. Эта технология предварительной обработки текстовых данных, ставшая фактически стандартом, привносит дополнительные сведения обо всём корпусе естественного языка, частоте и встречаемости слов и даже косвенную информацию об их смысле.

Этих сведений может совсем не быть во входных данных или их трудно получить на ограниченном наборе данных. Word2Vec — это только первый удачный шаг в применении априорной лингвистической информации. Но любая информация о языке приближает нас к пониманию и использованию законов мышления.

У современного машинного обучения есть две ключевые особенности, которые снижают ценность результатов, полученных с его помощью. Во-первых, его выводы трудно интерпретировать и применять к новым задачам, похожим на уже решенные. Во-вторых, полученные результаты отражают корреляционные, функциональные, но не причинно-следственные связи.

Значительную, если не определяющую часть сведений об особенностях окружающего мира человек приобретает в общении с другими людьми. Он заимствует знания об окружающем мире и сложные социальные стратегии, часто делая это даже без критического анализа.

Искусственный интеллект пока не приспособлен к такому взаимодействию. Этот недостаток приходится компенсировать обращением к дополнительной информации об объекте исследования.

Понятно, почему методы машинного обучения так хорошо себя показали в шахматах. Ведь расположение фигур на доске однозначно определяет оптимальную последовательность ходов и проблема только в огромном количестве вариантов этих последовательностей.

Первое обстоятельство радикально упрощает поиск алгоритма для машины, второе — настолько же усложняет задачу для человека. Комбинаций в последовательности ходов так много, что задача в проекте AlphaZero до конца не решена.

И мы так и не знаем, можно ли считать преимущество первого хода белых в начальной ситуации определяющим и есть ли у чёрных шанс свести партию вничью при любой игре белых.

Возможно, что всё дело в слабости используемых математических методов. Методики современного искусственного интеллекта пока не соответствуют задаче моделирования интеллекта естественного.

Мы используем искусственный интеллект в тех областях, где человеческий работает не лучшим образом. Создать конкурента человеческому разуму во всех его проявлениях пока не получилось. Может ли искусственный интеллект решить более простую задачу — понять человека и предсказывать его поступки? Не конкурировать с человеком, а помогать ему.

Прогноз человеческого поведения — очень важная область, где исходные условия конкуренции человека и машины радикально отличаются от ситуации с игрой в шахматы. Нет никакой однозначности в предсказании следующего поступка человека. Зато у другого человека, обладающего эмпатией или знанием психологии, есть механизм, упрощающий такое предсказание.

В этой области достижения современного искусственного интеллекта невелики — за редкими исключениями вроде побед в Dota 2, где разнообразие поступков человеческого интеллекта ограничено необходимостью реализации ограниченного набора стратегий.

В этих условиях алгоритм, моделирующий поведение человека, может использовать гипотезу «все люди одинаковы». Но задача моделированию естественного интеллекта выглядит сложнее, и мы будем обсуждать его в дальнейшем.

Информационным гигантам сейчас доступна огромная статистика поступков людей. Обрабатывая её методами машинного обучения, корпорации могут, например, не только сегментировать аудиторию. Теперь им доступна новая опция: предлагать в рекламе каждому сегменту именно то, что с наибольшей вероятностью раньше находило отклик у представителей этого сегмента.

Боты уже научились разговаривать с людьми, но такие свойства алгоритмов пока очень далеки от человеческой эмпатии. Даже крупным компаниям сейчас недоступно создание «с нуля» даже упрощённой статической модели человека. Для этого всегда будет недостаточно данных, а уже имеющиеся содержат много фоновых сведений и не содержат всей значимой информации.

Пока не может быть и речи о построении динамической модели, которая сама умеет в реальном масштабе времени прогнозировать события окружающего мира и учитывает тренды и цикличность психических процессов.

На этом пути много нерешённых проблем. Часть из них — и мы в это верим, — преодолима в рамках современных подходов, а часть носит фундаментальный характер. Мы, например, до сих пор не можем оценить относительный вклад наследственности, приобретённых паттернов и сиюминутного влияния социума в процесс принятия решений. И сомнительно, что анализ данных цифровых следов позволит определить этот вклад.

В случае моделирования поведения человека необходима априорная информация трёх типов:

Ничего из этого нет и не может быть даже в самых масштабных базах данных, которые крупные информационные компании используют для обучения искусственного интеллекта.

Современные методы машинного обучения дают неплохие результаты именно там, где предположение «все люди одинаковы» может быть справедливо — с некоторой степенью точности, конечно.

Это, например, поведение покупателей в супермаркете, где почти все реализуют одну стратегию: пополнить запас продуктов на ближайшие дни. Таких покупателей легко классифицировать по типам поведения и управлять этим поведением, используя простую априорную психологическую информацию, теорию бихевиоризма.

Те же аналитические и рекламные методы, используемые на поисковом сайте, где разнообразие стратегий пользователей заметно больше, малоэффективны. Объект исследования настолько сложен, что популярен даже миф об имманентной иррациональности поведения человека.

Комбинаторный взрыв, который помешал AlphaZero до конца решить шахматную задачу, проявляется в поведении человека в еще большей степени. Но это не единственная трудность на пути моделирования поведения человека.

Любой поступок человека — ступень реализации одной из его стратегий. Непонимание, недооценивание этого, сведение роли поступка только к реакции на стимул — основной недостаток бихевиоризма, популярного в прошлом веке. Бихевиоризм не учитывает того, что один и тот же поступок может быть частью реализации нескольких стратегий.

Стратегии, в свою очередь, определяются ценностями и мотивами. Черты личности и особенности характера, описанные психологами, могут помочь предвидеть, как именно будет реализовываться поступок, какие условия могут повлиять на вероятность его совершения.

Методы социальной психологии позволяют изучать иерархию мотивов и стратегий поведения. Особенно важно это знание параметров личности тогда, когда оценивается вероятность совершения важных поступков, на первый взгляд, спонтанных или иррациональных.

Таким может быть, например, выбор спутника жизни или вуза. Невозможно предсказать конкретный поступок отдельного человека без знания его иерархии ценностей.

Благодаря современным методикам исследования мозга психологи могут связывать черты характера человека с индивидуальными особенностями его нейрофизиологии. Становится более понятной связь характеристик личности с событиями детства и юности, уже можно многое сказать о специфике социальных связей.

Традиционная психология пока не претендует на построение всеобъемлющей модели психики человека. Но при этом она сумела обобщить огромный массив знаний о его поведении, о стратегиях, которые реализуются в этом поведении, о ценностях, которые управляют этими стратегиями, о чертах личности и особенностях характера, от которых зависят детали реализации стратегий.

Оказывается, что размерность того пространства, которое описывает индивидуальные особенности человека, не так уж велика по сравнению с размерностью пространства поступков:

Классическая психодиагностика даёт возможность получить параметры для разметки обучающей выборки и подготовки данных для обучения. Знание этих параметров личности позволяет привлечь дополнительную психофизиологическую и социальную информацию, которой нет в цифровых следах, но информация о психотипе есть.

Психология на основании данных о психотипе дополнит картину знанием общих закономерностей, культурных и исторических особенностей поведения человека. Информационные технологии помогут выявить в данных функциональные и корреляционные связи.

Хорошим примером эффективности такого подхода могла бы стать разработка персонального ассистента, способного адаптивно общаться с человеком. Анализ личных текстов позволит ассистенту определить психотип собеседника, выбрать стиль, словарь и темп общения, наиболее удобный этому психотипу, и последовательно уточнять эти параметры, моделируя некоторое подобие эмпатии.

Современные рекомендательные алгоритмы пока что ориентируются на целые сегменты выборки и демонстрируют лишь квазичеловеческое поведение.

Необходимая для моделирования интеллекта человека полноценная эмпатия вряд ли сможет возникнуть путём простой эволюции современных методов машинного обучения даже с поддержкой научной психологии.

Пока неясно, какие концепции и теории войдут в такую модель, но она рано или поздно будет создана: слишком значителен социальный заказ, но случится это нескоро. Да и сама неоправданная надежда на быстрый успех может быть опасна.

Скорее всего, усилий одних психологов для создания модели естественного интеллекта окажется недостаточно. Потребуется также помощь математиков, нейрофизиологи, представителей других наук, уже существующих или ещё неизвестных.

Со временем сложится совершенно новая система анализа и понимания личности человека на основе больших данных. Её концепции и модели будут лучше адаптированы к реалиям современного мира и одновременно сохранят возможность интерпретации на понятном людям языке.

Тогда и можно будет надеяться на создание адекватной модели естественного интеллекта как сложной динамической системы.

#ии