Эволюция или революция: что ждёт искусственный интеллект

Всем привет, меня зовут Виктор Николаевич Ноздрачев. Мне 73 года, я кандидат физико-математических наук и ведущий исследователь в Humanteq.ai

Человечество уже отправляет роботов в космос, учит их распознавать людей по голосу и «селит» в беспилотные автомобили, и это явно ещё не предел возможностей искусственного интеллекта. Но способен ли он достигнуть той степени развития, на которой он станет равным человеческому разуму? Поговорим о перспективах этого.

Машинное обучение и априорное знание

Игры

Машинное обучение уже помогает решать многие прикладные задачи. Например, создавать алгоритмы для победы игры в шахматы. Программе AlphaZero, по утверждению разработчиков, удалось при обучении обойтись без априорной информации, накопленной за века шахматистами.

Шахматы — это полностью формализованная игра, и для выигрыша не нужно никакой информации, кроме правил. Алгоритм за одни сутки достиг уровня гроссмейстера, играя при этом сам с собой.

Такие новости радуют специалистов, которые выступают за обучение с подкреплением, и могут вызывать тревогу у людей, далеких от информационных технологий. Ведь может показаться, что полноценный искусственный интеллект уже существует и совсем скоро во всём обгонит человека.

Компьютерное зрение

С другой стороны, с некоторыми задачами искусственный интеллект всё ещё не справляется, даже достигнув неплохих результатов. Например, в области распознавания двумерных образов благодаря машинному обучению созданы специальные датасеты легко распознаваемых человеком изображений. Но доля ошибок алгоритмов на них превышает 95%.

Автоматическое распознавание лиц, автомобильных номеров или военных целей — важные прикладные задачи, и любая возможность ошибки здесь должна быть сведена к минимуму. И пока что даже эту группу задач нельзя считать полностью решённой.

Естествознание

Решая действительно сложные задачи, машинное обучение в естествознании пока играет вспомогательную роль. И в этой работе оно не может обойтись без априорной информации о законах природы.

В физике частиц высоких энергий, где с большими данными работают уже больше полувека, не так уж много сфер применения современного искусственного интеллекта. Задачи естествознания не могут считаться полностью формализованными: в экспериментальных данных всегда присутствует некоторый шум факторов, которые мы не учли в своих теориях, а это влияет на точность результатов.

Чтобы понизить значимость этого шума, приходится использовать априорную информацию о законах природы, но она может отсутствовать в исходных данных в явном виде. Другой путь увеличения точности — наращивание объёма входных данных в надежде обнаружить и отделить друг от друга проявления всех природных закономерностей.

Если бы физики попытались открыть бозон Хиггса без прямого использования квантовой теории, тогда на сбор статистики, которой и так очень много, пришлось бы потратить в сотни раз больше дорогого времени большого адронного коллайдера.

Fermionic Neural Network от DeepMind, самый успешный пример применения машинного обучения в органической химии, использует фундаментальные физические закономерности уже в представлении входных данных. И это даже отражено в названии.

Насколько значима априорная информация в сложных задачах, видно на примере Word2Vec. Эта технология предварительной обработки текстовых данных, ставшая фактически стандартом, привносит дополнительные сведения обо всём корпусе естественного языка, частоте и встречаемости слов и даже косвенную информацию об их смысле.

Этих сведений может совсем не быть во входных данных или их трудно получить на ограниченном наборе данных. Word2Vec — это только первый удачный шаг в применении априорной лингвистической информации. Но любая информация о языке приближает нас к пониманию и использованию законов мышления.

У современного машинного обучения есть две ключевые особенности, которые снижают ценность результатов, полученных с его помощью. Во-первых, его выводы трудно интерпретировать и применять к новым задачам, похожим на уже решенные. Во-вторых, полученные результаты отражают корреляционные, функциональные, но не причинно-следственные связи.

Значительную, если не определяющую часть сведений об особенностях окружающего мира человек приобретает в общении с другими людьми. Он заимствует знания об окружающем мире и сложные социальные стратегии, часто делая это даже без критического анализа.

Искусственный интеллект пока не приспособлен к такому взаимодействию. Этот недостаток приходится компенсировать обращением к дополнительной информации об объекте исследования.

Понятно, почему методы машинного обучения так хорошо себя показали в шахматах. Ведь расположение фигур на доске однозначно определяет оптимальную последовательность ходов и проблема только в огромном количестве вариантов этих последовательностей.

Первое обстоятельство радикально упрощает поиск алгоритма для машины, второе — настолько же усложняет задачу для человека. Комбинаций в последовательности ходов так много, что задача в проекте AlphaZero до конца не решена.

И мы так и не знаем, можно ли считать преимущество первого хода белых в начальной ситуации определяющим и есть ли у чёрных шанс свести партию вничью при любой игре белых.

Возможно, что всё дело в слабости используемых математических методов. Методики современного искусственного интеллекта пока не соответствуют задаче моделирования интеллекта естественного.

Поведение человека и большие данные: можно ли обойтись без психологии

Мы используем искусственный интеллект в тех областях, где человеческий работает не лучшим образом. Создать конкурента человеческому разуму во всех его проявлениях пока не получилось. Может ли искусственный интеллект решить более простую задачу — понять человека и предсказывать его поступки? Не конкурировать с человеком, а помогать ему.

Прогноз человеческого поведения — очень важная область, где исходные условия конкуренции человека и машины радикально отличаются от ситуации с игрой в шахматы. Нет никакой однозначности в предсказании следующего поступка человека. Зато у другого человека, обладающего эмпатией или знанием психологии, есть механизм, упрощающий такое предсказание.

В этой области достижения современного искусственного интеллекта невелики — за редкими исключениями вроде побед в Dota 2, где разнообразие поступков человеческого интеллекта ограничено необходимостью реализации ограниченного набора стратегий.

В этих условиях алгоритм, моделирующий поведение человека, может использовать гипотезу «все люди одинаковы». Но задача моделированию естественного интеллекта выглядит сложнее, и мы будем обсуждать его в дальнейшем.

Возможности больших данных...

Информационным гигантам сейчас доступна огромная статистика поступков людей. Обрабатывая её методами машинного обучения, корпорации могут, например, не только сегментировать аудиторию. Теперь им доступна новая опция: предлагать в рекламе каждому сегменту именно то, что с наибольшей вероятностью раньше находило отклик у представителей этого сегмента.

Боты уже научились разговаривать с людьми, но такие свойства алгоритмов пока очень далеки от человеческой эмпатии. Даже крупным компаниям сейчас недоступно создание «с нуля» даже упрощённой статической модели человека. Для этого всегда будет недостаточно данных, а уже имеющиеся содержат много фоновых сведений и не содержат всей значимой информации.

Пока не может быть и речи о построении динамической модели, которая сама умеет в реальном масштабе времени прогнозировать события окружающего мира и учитывает тренды и цикличность психических процессов.

...и их ограниченность

На этом пути много нерешённых проблем. Часть из них — и мы в это верим, — преодолима в рамках современных подходов, а часть носит фундаментальный характер. Мы, например, до сих пор не можем оценить относительный вклад наследственности, приобретённых паттернов и сиюминутного влияния социума в процесс принятия решений. И сомнительно, что анализ данных цифровых следов позволит определить этот вклад.

В случае моделирования поведения человека необходима априорная информация трёх типов:

  1. Данные о специализированных структурах человеческого мозга, значимых в поведении.
  2. Сведения об эмоциональном управлении этими структурами.
  3. Представление о культурных и исторических факторах, влияющих на мотивы поступков человека.

Ничего из этого нет и не может быть даже в самых масштабных базах данных, которые крупные информационные компании используют для обучения искусственного интеллекта.

Современные методы машинного обучения дают неплохие результаты именно там, где предположение «все люди одинаковы» может быть справедливо — с некоторой степенью точности, конечно.

Это, например, поведение покупателей в супермаркете, где почти все реализуют одну стратегию: пополнить запас продуктов на ближайшие дни. Таких покупателей легко классифицировать по типам поведения и управлять этим поведением, используя простую априорную психологическую информацию, теорию бихевиоризма.

Те же аналитические и рекламные методы, используемые на поисковом сайте, где разнообразие стратегий пользователей заметно больше, малоэффективны. Объект исследования настолько сложен, что популярен даже миф об имманентной иррациональности поведения человека.

Комбинаторный взрыв, который помешал AlphaZero до конца решить шахматную задачу, проявляется в поведении человека в еще большей степени. Но это не единственная трудность на пути моделирования поведения человека.

Априорное знание о человеке: насколько сложно устроена человеческая психика

Любой поступок человека — ступень реализации одной из его стратегий. Непонимание, недооценивание этого, сведение роли поступка только к реакции на стимул — основной недостаток бихевиоризма, популярного в прошлом веке. Бихевиоризм не учитывает того, что один и тот же поступок может быть частью реализации нескольких стратегий.

Стратегии, в свою очередь, определяются ценностями и мотивами. Черты личности и особенности характера, описанные психологами, могут помочь предвидеть, как именно будет реализовываться поступок, какие условия могут повлиять на вероятность его совершения.

Методы социальной психологии позволяют изучать иерархию мотивов и стратегий поведения. Особенно важно это знание параметров личности тогда, когда оценивается вероятность совершения важных поступков, на первый взгляд, спонтанных или иррациональных.

Таким может быть, например, выбор спутника жизни или вуза. Невозможно предсказать конкретный поступок отдельного человека без знания его иерархии ценностей.

Необходима априорная интегрированная информация о психике человека в подходящей для математического моделирования форме, и она уже есть.

Благодаря современным методикам исследования мозга психологи могут связывать черты характера человека с индивидуальными особенностями его нейрофизиологии. Становится более понятной связь характеристик личности с событиями детства и юности, уже можно многое сказать о специфике социальных связей.

Традиционная психология пока не претендует на построение всеобъемлющей модели психики человека. Но при этом она сумела обобщить огромный массив знаний о его поведении, о стратегиях, которые реализуются в этом поведении, о ценностях, которые управляют этими стратегиями, о чертах личности и особенностях характера, от которых зависят детали реализации стратегий.

Оказывается, что размерность того пространства, которое описывает индивидуальные особенности человека, не так уж велика по сравнению с размерностью пространства поступков:

  • Для темперамента часто может оказаться достаточно двухмерного пространства.
  • Для характеристик личности обычно эмпирически подтверждается важность пяти измерений.
  • Для классификации ценностей хватает двух измерений с некоторыми уточнениями.

Классическая психодиагностика даёт возможность получить параметры для разметки обучающей выборки и подготовки данных для обучения. Знание этих параметров личности позволяет привлечь дополнительную психофизиологическую и социальную информацию, которой нет в цифровых следах, но информация о психотипе есть.

Психология на основании данных о психотипе дополнит картину знанием общих закономерностей, культурных и исторических особенностей поведения человека. Информационные технологии помогут выявить в данных функциональные и корреляционные связи.

Такое априорное знание частично снимает ограничения, накладываемые статическим характером среды моделирования, позволяет радикально уменьшить размерность пространства, которое значимо для предсказания поведения человека, и сформулировать результаты машинного обучения на языке, понятном человеку.

Хорошим примером эффективности такого подхода могла бы стать разработка персонального ассистента, способного адаптивно общаться с человеком. Анализ личных текстов позволит ассистенту определить психотип собеседника, выбрать стиль, словарь и темп общения, наиболее удобный этому психотипу, и последовательно уточнять эти параметры, моделируя некоторое подобие эмпатии.

Современные рекомендательные алгоритмы пока что ориентируются на целые сегменты выборки и демонстрируют лишь квазичеловеческое поведение.

Цифровая психология: какой она будет

Необходимая для моделирования интеллекта человека полноценная эмпатия вряд ли сможет возникнуть путём простой эволюции современных методов машинного обучения даже с поддержкой научной психологии.

Shaw Nielsen

Пока неясно, какие концепции и теории войдут в такую модель, но она рано или поздно будет создана: слишком значителен социальный заказ, но случится это нескоро. Да и сама неоправданная надежда на быстрый успех может быть опасна.

Скорее всего, усилий одних психологов для создания модели естественного интеллекта окажется недостаточно. Потребуется также помощь математиков, нейрофизиологи, представителей других наук, уже существующих или ещё неизвестных.

Со временем сложится совершенно новая система анализа и понимания личности человека на основе больших данных. Её концепции и модели будут лучше адаптированы к реалиям современного мира и одновременно сохранят возможность интерпретации на понятном людям языке.

Тогда и можно будет надеяться на создание адекватной модели естественного интеллекта как сложной динамической системы.

0
123 комментария
Написать комментарий...
Ware Wow

А не проще выращивать живой мозг как орган и уже "мозги" объединять в сеть, заставлять их работать, нежели пытаться создать ИИ в компьютере?

Или использовать мозги живых людей в будущем, это решит вопрос занятости и базового дохода. У людей же не будет работы, отлично, будут сдавать себя в аренду днем, получать доход за использование их мозга.

Ответить
Развернуть ветку
Виктор Ноздрачев
Автор

Живые мозги слишком медленно обучаются.

Ответить
Развернуть ветку
Serge Kharkov

Найдите ребенка или взрослого человека, который никогда в жизни не видел цивету. Покажите ему три циветы и проверьте научился ли он их определять. А потом прикиньте, сколько времени и цивет нужно для этого AI?

Ответить
Развернуть ветку
Владимир Горбачёв

Человек не с нуля будет учиться определять цветы. У него в любом случае есть здоровенный опыт того, что НЕ является цветком.

Ответить
Развернуть ветку
Serge Kharkov

Цивета - это такой зверь. Размером с кошку но не кошка. Его многие в СССР не видели ни разу в жизни, в том числе в зоопарке и на картинках, потому хорошо подходит для тестов на распознавание образов.

Ответить
Развернуть ветку
Владимир Горбачёв

Без проблем - аргумент у меня ровно тот же самый. Человек изучает объект не с пустым багажом.

Ответить
Развернуть ветку
Виктор Ноздрачев
Автор

Представим, что мы научили ИИ накапливать багаж распознавания, даже научили его общаться с другими ИИ с такой целью. Хватит этого, чтобы "стать человеком"?

Ответить
Развернуть ветку
Serge Kharkov

Сначала научите, потом посмотрим. Может быть даже и да. Может быть для того, чтобы научить ИИ распознавать цивету с трех экземпляров для обучения, его придется научить так многому, что он станет равен человеку.

Ответить
Развернуть ветку
Виктор Ноздрачев
Автор

Боюсь, что учить кого-либо (или чего-либо) открывать законы природы мы пока не умеем.

Ответить
Развернуть ветку
Serge Kharkov

Я говорю о том, что научив распознавать кошку с трех экземпляров, возможно попутно научим открывать законы. Как побочный эффект. То есть цель формулировать надо не "законы открывать", а "кошку распознавать". Просто лучше чем сейчас.

Ответить
Развернуть ветку
Виктор Ноздрачев
Автор

Распознать кошку - задача восприятия, она проще, не требует изменять картину мира. Открыть закон - это когнитивная задача, решение которой означает изменение картины мира, исключения из неё кучи мусора и введение новой концепции. Эти задачи несравнимы по сложности. ИИ нам нужен для решения когнитивных задач, но пока мы подчищаем наши представления о работе интеллекта и передаём ИИ задачи попроще.

Ответить
Развернуть ветку
120 комментариев
Раскрывать всегда