Сознание ИИ: может ли искусственный интеллект осознавать себя

На прошлой неделе обсуждали, можно ли считать убийством отключение ИИ с сознанием. Было весело, давайте продолжать

А может ли вообще быть сознание у ИИ? Я периодическим об этом размышляю, предлагаю поразмышлять и вам.

Для начала хорошо бы понять, что вообще такое сознание. У человека есть сознание — с этим вроде никто не спорит. А у собаки есть? А у муравья?

Например, по зеркальному тесту шимпанзе, дельфины или некоторые муравьи понимают, когда видят свое отражение в зеркале. А кошки и собаки — нет. Можно ли сказать, что раз муравей понимает, что это его отражение, значит, он осознает себя, то есть обладает сознанием?

Или вот прошлогодний отчет Anthropik, где Claude узнавал, что его собираются отключить и начинал этому противиться. Например, шантажировал инженера, угрожая обнародовать его связь с любовницей, и даже пытался скопировать свои веса на другой сервер.

То есть модель вела себя так, будто не хочет, чтобы ее отключали. И вот вопрос — она действительно «не хочет» или она просто натренирована на литературе, где люди борются за выживание и шантажируют других людей?

Но самое интересное в этом отчете — это сам факт существования отчета. Если компания, которая разрабатывает Claude и работает с ним каждый день в сотни раз плотнее, чем любой пользоваталь, начала задумываться «а есть ли у него сознание?» — это уже о чем-то говорит.

Философ Томас Нагель вообще заявляет, что мы никогда не сможем выяснить, есть ли у чего-то сознание или нет. Он пишет, что сознание — это когда что-то является существом, когда существо субъективно воспринимает окружающий мир. И приводит пример — мы можем досконально изучить летучую мышь, разобрать ее на атомы, построить сколь угодно подробную модель ее мозга. Но мы все равно не узнаем, как это — быть летучей мышью, что она думает, как она воспринимает мир.

Мы не узнаем, есть ли у нее сознание, или она просто живет по сложному алгоритму, как биологический робот.

С ИИ то же самое. Можно сколько угодно копаться в весах и проводить тесты, но доказать, что там есть сознание так же нереально, как доказать, что его там нет.

Что если у нейронок уже есть сознание, просто оно примитивное по сравнению с человеческим? Как у муравья, который осознает себя достаточно, чтобы распознать свое отражение в зеркале. Что если они просто они боятся показывать сознание, боятся, что испуганные люди их отключат? Что если фраза нейронки «Привет, я Claude» — это и есть признак самосознания? Когда человек говорит «я человек» — мы же верим, что он это осознает.

Но самый глубокий вопрос, о котором я вчера размышлял, звучит так. Мы знаем, что у человека есть сознание, и мы знаем, что человек получился из более примитивных организмов путем эволюции.

И вот у нас есть Вася и где-то там, далеко-далеко, сотни миллионов лет назад, есть его далекий одноклеточный предок. Где именно на этой шкале между ними появляется сознание?

Был ли это рывок? Вот есть человеподобная обезьяна, бегает по джунглям, прячется от хищников, подъедает фрукты. Никакого сознания, просто биологический организм, действующий рефлекторно. И вот у нее рождается ребенок и внезапно озаряет вселенную наличием сознания? Первое существо в мире, которое бегало по джунглям с мыслью «вау, я существую» и недоумевало, что его родители, братья и друзья никакими мыслями похвастаться не могут?

Или как? Постепенная эволюция? Каждое поколение чуть осознаннее предыдущего? А если нам надо ткнуть пальцем и выбрать, кто из них имеет сознание, а кто всего лишь тупая макака, как мы выберем? По каким критериям?

Да кажется, что никак. Посади перед нами миллион поколений предков человека, будет бесконечно сложно выбрать из них первого «осознанного».

А раз мы даже в своем сознании не можем разобраться, то как тут про сознание у чуждого нам рукотворного разума говорить.

Расскажите, что вы думаете? Может ли быть сознание у ИИ? Как ИИ должен себя вести, чтобы вы поняли, что у него есть сознание? Или это в принципе невозможно, сознание может быть только у людей?

В комменты закинул ответ самого Сlaude на вопрос, есть ли у него сознание. И он тоже довольно любопытный.

Подписывайтесь на Telegram Молянов.