ИИ уже может быть сознательным. Готовы ли мы к этому?

Я захожу в кабинку с некоторым трепетом. Меня собираются подвергнуть стробоскопическому освещению во время воспроизведения музыки – в рамках исследовательского проекта, пытающегося понять, что делает нас по-настоящему людьми.

Этот опыт напоминает тест из научно-фантастического фильма "Бегущий за лезвием", призванный отличать людей от искусственно созданных существ, выдающих себя за людей.

Мог бы я быть роботом из будущего и не знать этого? Прошел бы я тест?

Исследователи уверяют меня, что на самом деле этот эксперимент направлен не на это. Устройство, которое они называют "Машина сновидений", предназначено для изучения того, как человеческий мозг генерирует наш сознательный опыт восприятия мира.

Когда начинается стробирование, даже при том, что мои глаза закрыты, я вижу кружащиеся двумерные геометрические узоры. Это похоже на прыжок в калейдоскоп с постоянно меняющимися треугольниками, пятиугольниками и восьмиугольниками. Цвета яркие, интенсивные и постоянно меняющиеся: розовые, пурпурные и бирюзовые оттенки, сияющие, как неоновые огни.

"Машина сновидений" выводит внутреннюю активность мозга на поверхность с помощью мигающих огоньков, направленных на изучение того, как работают наши мыслительные процессы.

Изображения, которые я вижу, уникальны для моего собственного внутреннего мира и уникальны для меня самого, по мнению исследователей. Они верят, что эти паттерны могут пролить свет на само сознание.

Они слышат, как я шепчу: "Это прекрасно, абсолютно прекрасно. Это как полет в моем собственном сознании!"

"Машина мечты" в Центре науки о сознании Сассекского университета - это лишь один из многих новых исследовательских проектов по всему миру, исследующих человеческое сознание: ту часть нашего разума, которая позволяет нам осознавать себя, думать и чувствовать и принимать независимые решения о мире.

Изучая природу сознания, исследователи надеются лучше понять, что происходит в кремниевых мозгах искусственного интеллекта. Некоторые считают, что системы ИИ скоро станут независимо сознательными, если они еще этого не сделали.

Но что такое сознание на самом деле, и насколько ИИ близок к его обретению? И может ли вера в то, что ИИ сам может быть сознательным, фундаментально изменить людей в ближайшие несколько десятилетий?

Идея машин с собственным разумом уже давно исследуется в научной фантастике. Опасения по поводу ИИ возникли почти сто лет назад, после фильма "Метрополис", в котором робот выдает себя за настоящую женщину.

Страх перед машинами, которые становятся сознательными и представляют угрозу для людей, был исследован в фильме 1968 года "2001: Космическая одиссея", когда компьютер HAL 9000 пытался убить астронавтов на борту своего космического корабля. И в последнем фильме "Миссия невыполнима", который только что вышел в прокат, миру угрожает могущественный искусственный интеллект-мошенник, описанный одним персонажем как "самосознающий, самообучающийся, пожирающий правду цифровой паразит".

Но совсем недавно в реальном мире произошел быстрый переломный момент в размышлениях о машинном сознании, когда заслуживающие доверия голоса стали обеспокоены тем, что это больше не является предметом научной фантастики.

Внезапный сдвиг был вызван успехом так называемых больших языковых моделей (LLM), доступ к которым можно получить через приложения на наших телефонах, такие как Gemini и Chat GPT. Способность последнего поколения LLM вести правдоподобные, непринужденные беседы удивила даже их разработчиков и некоторых ведущих экспертов в этой области.

Среди некоторых мыслителей растет мнение, что по мере того, как ИИ станет еще более разумным, внутри машин внезапно включится свет, и они станут сознательными.

Другие, такие как профессор Анил Сет, возглавляющий команду Университета Сассекса, не согласны с этим, описывая эту точку зрения как "слепо оптимистичную и движимую человеческой исключительностью".

"Мы ассоциируем сознание с интеллектом и языком, потому что у людей они сочетаются. Но только потому, что они сочетаются у нас, это не значит, что они сочетаются в целом, например, у животных ".

Так что же на самом деле такое сознание?

Короткий ответ таков: никто не знает. Это ясно из добродушных, но убедительных аргументов собственной команды профессора Сета, состоящей из молодых специалистов по ИИ, компьютерных экспертов, нейробиологов и философов, которые пытаются ответить на один из важнейших вопросов науки и философии.

Хотя в центре исследований сознания существует множество различных точек зрения, ученые едины в своем методе: разбить эту большую проблему на множество более мелких в рамках серии исследовательских проектов, в том числе Dreamachine.

Точно так же, как поиск "искры жизни", которая оживляла неодушевленные предметы, был оставлен в 19 веке в пользу определения того, как работают отдельные части живых систем, команда Сассекса сейчас применяет тот же подход к сознанию.

Они надеются выявить паттерны мозговой активности, которые объяснят различные свойства сознательного опыта, такие как изменения электрических сигналов или притока крови к различным областям. Цель состоит в том, чтобы выйти за рамки поиска простых корреляций между мозговой активностью и сознанием и попытаться найти объяснения для его отдельных компонентов.

Профессор Сет, автор книги о сознании "Быть самим собой", обеспокоен тем, что мы, возможно, стремглав бросаемся в общество, которое стремительно меняется из-за стремительных технологических изменений, не имея достаточных знаний о науке и не задумываясь о последствиях.

"Мы воспринимаем это так, как будто будущее уже предначертано; что грядет неизбежный марш к замене сверхчеловеком", - говорит он.

"С развитием социальных сетей у нас было недостаточно таких разговоров, к большому нашему коллективному ущербу. Но с ИИ еще не слишком поздно. Мы можем решать, чего мы хотим ".

Но есть некоторые в технологическом секторе, которые считают, что ИИ в наших компьютерах и телефонах, возможно, уже обладает сознанием, и мы должны относиться к ним как к таковым.

Google отстранила инженера-программиста Блейка Лемуана в 2022 году после того, как он заявил, что чат-боты с искусственным интеллектом могут чувствовать что-то и потенциально страдать.

В ноябре 2024 года сотрудник Anthropic по обеспечению благополучия ИИ Кайл Фиш в соавторстве с отчетом предположил, что сознание ИИ является реальной возможностью в ближайшем будущем. Недавно он сказал New York Times, что, по его мнению, существует небольшая (15%) вероятность того, что чат-боты уже обладают сознанием.

Одна из причин, по которой он считает это возможным, заключается в том, что никто, даже люди, разработавшие эти системы, точно не знают, как они работают. Это вызывает беспокойство, говорит профессор Мюррей Шанахан, главный научный сотрудник Google DeepMind и почетный профессор искусственного интеллекта в Имперском колледже Лондона.

"На самом деле мы не очень хорошо понимаем, как LLM работают внутри компании, и это вызывает некоторое беспокойство", - говорит он Би-би-си.

По словам профессора Шанахана, технологическим фирмам важно получить правильное представление о системах, которые они создают, – и исследователи рассматривают это в срочном порядке.

"Мы находимся в странном положении, создавая эти чрезвычайно сложные вещи, когда у нас нет хорошей теории о том, как именно они достигают тех замечательных результатов, которых они достигают", - говорит он. "Таким образом, лучшее понимание того, как они работают, позволит нам направлять их в нужном нам направлении и гарантировать их безопасность".

Преобладающее мнение в технологическом секторе заключается в том, что LLM в настоящее время не осознают то, как мы воспринимаем мир, и, вероятно, вообще не осознают. Но это то, что, по мнению супружеской пары, профессоров Ленор и Мануэля Блюм, почетных профессоров Университета Карнеги-Меллона в Питтсбурге, Пенсильвания, изменится, возможно, довольно скоро.

По словам Блюмов, это может произойти, поскольку ИИ и LLM получают больше живой сенсорной информации из реального мира, такой как зрение и осязание, благодаря подключению камер и тактильных датчиков (связанных с касанием) к системам ИИ. Они разрабатывают компьютерную модель, которая конструирует свой собственный внутренний язык, называемый Brainish, чтобы позволить обрабатывать эти дополнительные сенсорные данные, пытаясь воспроизвести процессы, происходящие в мозге.

"Мы думаем, что Brainish может решить проблему сознания в том виде, в каком мы ее знаем", - говорит Ленор Би-би-си. "Сознание ИИ неизбежно".

Мануэль с энтузиазмом вмешивается с озорной ухмылкой, говоря, что новые системы, в появление которых он слишком твердо верит, станут "следующим этапом эволюции человечества".

Он считает, что роботы с сознанием "являются нашим потомством. В будущем подобные машины станут сущностями, которые появятся на Земле и, возможно, на других планетах, когда нас больше не будет рядом".

Дэвид Чалмерс – профессор философии и нейрологии Нью-Йоркского университета - определил различие между реальным и кажущимся сознанием на конференции в Тусоне, штат Аризона, в 1994 году. Он изложил "трудную проблему" выяснения того, как и почему любая из сложных операций мозга порождает сознательный опыт, такой как наша эмоциональная реакция, когда мы слышим пение соловья.

Профессор Чалмерс говорит, что он открыт для возможности решения этой сложной проблемы.

"Идеальным результатом было бы то, что человечество разделило бы это новое интеллектуальное богатство", - говорит он Би-би-си. "Возможно, наш мозг дополнен системами искусственного интеллекта".

Что касается научно-фантастических последствий этого, он иронично замечает: "В моей профессии существует тонкая грань между научной фантастикой и философией".

Профессор Сет, однако, исследует идею о том, что истинное сознание может быть реализовано только живыми системами.

"Можно привести веские доводы в пользу того, что для сознания достаточно не вычислений, а того, чтобы быть живым", - говорит он.

"В мозгах, в отличие от компьютеров, трудно отделить то, что они делают, от того, чем они являются". Без этого разделения, утверждает он, трудно поверить, что мозги "это просто компьютеры на мясной основе".

И если интуиция профессора Сета о важности жизни находится на правильном пути, то, скорее всего, технология будет сделана не из кремния, работающего на компьютерном коде, а скорее будет состоять из крошечных наборов нервных клеток размером с чечевичное зерно, которые в настоящее время выращиваются в лабораториях.

В сообщениях СМИ их называют "минимозгами", научное сообщество называет их "церебральными органоидами", которые используют их для исследования того, как работает мозг, и для тестирования на наркотики.

Одна австралийская фирма Cortical Labs в Мельбурне даже разработала систему нервных клеток в чашке, которая может играть в спортивную видеоигру 1972 года "Понг". Хотя это очень далеко от сознательной системы, так называемый "мозг в тарелке" выглядит устрашающе, поскольку он двигает ракеткой вверх и вниз по экрану, отбивая пиксельный мяч.

Некоторые эксперты считают, что если сознание и должно появиться, то, скорее всего, за счет более крупных и продвинутых версий этих живых тканевых систем.

Кортикальные лаборатории отслеживают их электрическую активность на предмет любых сигналов, которые, предположительно, могут быть чем-то похожим на появление сознания.

Главный научный и операционный директор фирмы, доктор Бретт Каган, осознает, что любой появляющийся неконтролируемый интеллект может иметь приоритеты, которые "не совпадают с нашими". В этом случае, полушутя, он говорит, что возможных повелителей органоидов было бы легче победить, потому что "всегда есть отбеливатель", которым можно полить хрупкие нейроны.

Возвращаясь к более торжественному тону, он говорит, что небольшая, но значительная угроза искусственного сознания – это то, на чем он хотел бы, чтобы крупные игроки в этой области больше сосредоточились в рамках серьезных попыток продвинуть наше научное понимание, но говорит, что "к сожалению, мы не видим никаких серьезных усилий в этой области".

Однако более насущная проблема может заключаться в том, как иллюзия того, что машины обладают сознанием, влияет на нас.

По словам профессора Сета, всего через несколько лет мы вполне можем жить в мире, населенном человекоподобными роботами и глубокими подделками, которые кажутся сознательными. Он беспокоится, что мы не сможем сопротивляться вере в то, что ИИ обладает чувствами и эмпатией, что может привести к новым опасностям.

"Это будет означать, что мы будем больше доверять этим вещам, делиться с ними большим количеством данных и будем более открыты для убеждения".

Но больший риск, связанный с иллюзией сознания, - это "моральная коррозия", говорит он.

"Это исказит наши моральные приоритеты, заставив нас посвящать больше наших ресурсов заботе об этих системах в ущерб реальным вещам в нашей жизни" – это означает, что мы можем испытывать сострадание к роботам, но меньше заботиться о других людях.

И это, по словам профессора Шанахана, может коренным образом изменить нас.

Исследование BBC

Переведено в KolerskyAI. KolerskyAI это компания с сервисами на основе нейросетей и подразделением для селлеров маркетплейсов KolerskyMP