Можем ли мы доверять Искусственному интеллекту?

Перевод статьи эксперта в области искусственного интеллекта, основателя и главы компании Umnai, ключевого спикера международного саммита инвесторов ранних стадий VOX ANGELIS 2019 Анджело Далли (Angelo Dalli).

Один из главных технологических вопросов сегодня – это развитие машинного обучения и его трансформация в полноценный Искусственный интеллект (Artificial Intelligence, AI). Сама идея создания искусственного разума возникла в пятидесятые, первые разработки начались в начале девяностых. Но довольно долго эту идею было невозможно воплотить на практике. Потребовалось время, чтобы оборудование, программное обеспечение, и накопленные данные сделали появление искусственного интеллекта возможным.

Прогресс в области машинного обучения, который мы видим сегодня, достигнут благодаря технологиям нового поколения, которые обеспечивают быструю и эффективную работу с большими массивами данных в том формате, который необходим системе AI. Вопреки книгам фантастов 60-х годов, нам не требуется создание секретных специальных центров, где рождается искусственный разум. Вместо этого построена глобальная интернет инфраструктура. Например, вы говорите по телефону и разговор отправляется в облачное хранилище, там он расшифровывается, транскрибируется, и вам возвращаются чистые данные, которые уже можно преобразовывать в нужные алгоритмы обучения.

Существующие программы машинного обучения работают в закрытом режиме, то есть на основе алгоритмов выдают ответы, сформулированные после работы с большими данными, без каких-либо объяснений. Если сохранить этот тренд, то в будущем такое отсутствие прозрачности приведет к проблемам с доверием. Никто в здравом уме не будет слепо следовать рекомендациям системы, не имея понимания процессов, который сформулировали тот или иной ответ.

В идеале, нам нужен AI, который может работать вместе с людьми и вступать в интерактивный диалог. Должна быть гарантия, что мы сможем проследить логику и результаты работы AI, при необходимости исправляя их – процесс, схожий с воспитанием детей или обучением в школе. Способность AI объяснять ход и течение своих мыслей является ключевым параметром, необходим для его интеграции не только в технологии, но и социум. В противном случае, машинный разум останется нишевым инструментом для очень ограниченных областей.

Если посмотреть на чат-боты и другие формы искусственной коммуникации, то нет ощущения разума. То есть видишь паттерны, очевидна адекватная реакция – но нет мысли в целом. Он видит слово «ручка» и подбирает список ответов согласно объекту. Очевидно, он не понимает, что это за предмет и зачем он нужен. С другой стороны, беспилотный модуль управления составляет целую систему – это не только навигация и управление, программа буквально сканирует и распознает все окружающее пространство, что позволяет работать с учетом полного понимания ситуации.

Предположим, что в будущем люди будут работать рука об руку с AI, используя это партнерство для повышения своей производительности. Первые системы AI будут, в частности, использоваться для развития искусственного интеллекта. От идеи о том, что машинный разум будет помогать совершенствовать самого себя буквально сносит крышу. А люди в свою очередь получат больше драгоценного личного времени для познания и творчества.

Но где AI будет однозначно полезным, а в каких областях возникнут дополнительные вопросы? Например, этический. В случае риска для человеческой жизни, как поведет себя тот же беспилотный автомобиль, в ситуации, когда опасность угрожает сразу нескольким людям? А таких областей сотни – современная технологическая инфраструктура включает в себя тысячи узлов, сбой в которых приводит от трагедий, до катастроф. Еще один глобальный вопрос – как повлияет жизнь рядом с искусственным интеллектом на общество в целом. Когда люди научаться доверять суждениям и решениям ИИ – не станет ли подобное поведение привычкой или даже новым социальным паттерном?

Я не думаю, что в глобальном масштабе ИИ станет принимать решения вместо человека. Не только общество в целом, но и каждый отдельный человек должен сохранять возможность выбора. Но есть области, где он несомненно будет применяться для участия в принятии решений. AI проявит себя там, где есть четкий свод правил и кодифицированного знания: здравоохранение, юриспруденция, финансы и т. д. Это не будет работать в управлении, гуманитарных и творческих сферах, где сочетается множество факторов, которые сложно или даже невозможно просчитать.

Вопросы регулирования таких дилемм надо решать как можно скорее. Сейчас это не проблема. Но чем продвинутее будет ИИ, тем больше норм придется принимать. Мы уже подошли к тому моменту, когда он становится достаточно продвинутым, чтобы начинать думать о ключевых вопросах. Во-первых, ответственность. Когда AI принимает то или иное решение, в том числе этического характера, кто будет нести ответственность? Во-вторых, правила для разработчиков AI: что приемлемо, а что нет. Блокчейн может стать крайне полезной технологией для AI – если говорить об аудите его решений, ведение реестра в DLT это очень удачный формат. Однако скорость технологии блокчейна должна быть улучшена, чтобы стать применимой для широкого применения.

Есть прекрасная формулировка: «развитые технологии выглядят как магия». Искусственный интеллект постепенно двигается именно в этом направлении. Требуется воображение, чтобы представить, что сможет сделать ИИ и какое влияние он окажет на нашу жизнь. В ближайшие 10 лет мы будем постепенно переходить от специализированных программ к более комплексным. А в течение 20-40 лет создание полноценного AI произойдет с очень высокой степенью вероятности – это станет одним из величайших событий в истории человечества. Только представьте, искусственный разум, который осознает себя и имеет собственные цели. Возможно это будет самым лучшим и финальным изобретением человечества.

Источник: