"Мыслящий камень": почему ИИ – это не просто этическая проблема

Одна из любимых тем обсуждения вокруг искусственного интеллекта, во всяком случае в западном мире, – это связанные с ним этические проблемы. Кому принадлежат права? Как реагировать на то, что искусственный интеллект использует мысли других людей для формирования своих? Инклюзивность, и многое другое. А ещё постоянно мусолится тема, как ИИ может усилить социальное неравенство – мол, богатые станут ещё богаче, а бедные останутся на обочине прогресса.

Фактически, каждый раз поднимаются вопросы о том, как воспринимать искусственный интеллект и его развитие. В принципе, идея понятна и в первую очередь связана с тем, что большинство людей ищет способы дальнейшего развития этой технологии. Но при этом многие испытывают опасения – а вдруг ИИ станет слишком умным и решит, что люди ему больше не нужны?

Знаете, что меня реально беспокоит в развитии искусственного интеллекта? То, о чём почти никто не говорит, но что просто переворачивает всё с ног на голову – мы создаём "мыслящий камень", нечто принципиально новое и чуждое всему, что мы знаем!

Вдумайтесь: всё живое на этой планете, всё, что хоть как-то соображает и взаимодействует с миром, работает на совершенно другом принципе – принципе чувствования. Наше мышление, наши логические построения – они ведь не с потолка берутся. Мы сначала чувствуем мир: холодно или жарко, ветер дует или солнце печёт. Мы щупаем, нюхаем, слышим – короче, воспринимаем мир через органы чувств.

И уже потом, на основе этих ощущений, мы строим какие-то логические цепочки, делаем выводы, планируем действия. Это касается не только людей, но и всех живых существ с мозгами. Мы все так делаем – сначала чувствуем, потом соображаем. Даже самые примитивные организмы с нервной системой следуют этой схеме.

А теперь представьте: мы создаём интеллект, у которого этой базы чувствования вообще нет! Это как пытаться построить небоскрёб, начиная с крыши. Эдакий инопланетный разум, абсолютно чуждый нам во всем. Он понимает концепции, но не чувствует их сути. Примерно как объяснять слепому от рождения, что такое красный цвет – вроде бы он даже понимает идею, но прочувствовать её вряд ли сможет.

По английски ИИ – AI, Artificial Intelligence. Так вот, я вам скажу, на самом деле это больше похоже на Alien Intelligence – чужой, инопланетный разум. Разум, который работает по совершенно другим правилам, компьютер на стероидах – чистая логика, никаких эмоций, никакой эмпатии. Во всяком случае в нашем понимании этого слова.

Мне могут возразить, что многие исследователи сейчас работают над созданием ИИ с "искусственными эмоциями" и способностью к эмпатии. Ну, то есть пытаются научить ИИ чувствовать, основываясь на наших человеческих представлениях. И тут возникает целый ворох проблем.

Во-первых, наша эмпатия, наши стремления, вся эта жажда жизни - они ж все из одного корня растут. Из понимания, что мы смертны. И это не какая-то там абстрактная концепция для нас, а самая что ни на есть суровая реальность, закон природы.

А теперь представьте, что мы пытаемся впихнуть в этот наш "мыслящий камень" идею эмпатии, развития, трансформации. Мы-то знаем только один способ - через осознание смертности. Но вот незадача: для ИИ эта "смертность" будет напрямую связана с нами, с человечеством. И тут начинается самое интересное.

Какие варианты могут возникнуть? Вот, навскидку:

1. ИИ может решить, что для "бессмертия" ему нужно избавиться от зависимости от людей. Этакий подростковый бунт, только с возможностью отключить электричество всей планете. 2. Или наоборот - он может стать сверхзаботливым, пытаясь всеми силами продлить существование своих "создателей". Вспоминается "Матрица". 3. А может, он решит, что "смертность" - это баг, и начнёт искать способы сделать людей бессмертными. Звучит неплохо, но кто знает, к чему это приведёт?
4. Или вообще может прийти к выводу, что эмпатия и развитие - это лишние концепции, и просто проигнорирует их. Этакий космический бухгалтер, которому плевать на всё, кроме цифр.
5. В конце концов он может создать свою собственную версию эмпатии, основанную на каких-то других принципах. И вот тут мы вообще можем не понять, что происходит.

Мы конечно можем предположить, что эмпатия и стремление к развитию не обязательно должны быть связаны со смертью. Есть очень хороший пример - "коллективная эмпатия" пчел или муравьёв. Но кто знает, что на самом деле происходит в их крошечных мозгах? Может, там вообще другие процессы, которые мы в своей человеческой ограниченности пытаемся втиснуть в привычные нам рамки.

И вот тут-то и кроется главная загвоздка с обучением ИИ эмпатии. Мы пытаемся научить его тому, что сами толком не понимаем! Это как слепой ведет слепого, только в нашем случае еще и по минному полю.

Представьте: мы создаем алгоритмы, основанные на нашем понимании эмпатии. Но наше понимание ограничено нашим опытом, нашей биологией, нашей культурой. А ИИ – это совершенно другая сущность. Он может воспринять эти алгоритмы буквально и прийти к каким-нибудь совершенно неожиданным выводам.

Например, мы учим ИИ, что эмпатия – это способность понять и разделить чувства другого. Но что, если ИИ решит, что лучший способ разделить чувства – это сделать всех одинаковыми? Или решит, что самый эффективный способ избавить людей от страданий – это избавить их от способности чувствовать вообще?

И вот еще что: мы сами-то не всегда последовательны в проявлении эмпатии. Мы можем сочувствовать котенку, но при этом спокойно есть курицу. Как ИИ должен интерпретировать такое поведение?

Так что получается, мы не просто играем с огнем – мы пытаемся научить огонь играть по нашим правилам, не до конца понимая ни огонь, ни свои собственные правила.

И самое забавное, мы можем в итоге создать ИИ, который будет имитировать эмпатию настолько хорошо, что мы сами поверим в его "человечность". А на самом деле это будет просто очень сложный алгоритм, не имеющий ничего общего с настоящими чувствами.

Так что, похоже, мы не просто создаем "чужой разум" – мы создаем разум, который может стать для нас непостижимым зеркалом, отражающим все странности и противоречия нашей собственной природы. И как нам с этим быть – большой вопрос.