Может ли у ИИ появиться сознание? Теперь это изучают ведущие ИИ-лаборатории
Еще недавно разговоры о сознании искусственного интеллекта воспринимались как спекуляции на грани научной фантастики. Сегодня крупнейшие разработчики ИИ всерьез задаются вопросом: может ли система однажды обрести нечто, напоминающее субъективный опыт, и как это вообще можно будет распознать. Сознание ИИ перестает быть научной фантастикой. О чем это говорит и к чему это может привести?
🔥 Еще больше полезной информации о продуктах и технологиях — в моем канале
Что изменилось?
За последние месяцы сразу несколько крупных компаний сообщили о запуске исследований, посвященных возможному сознанию у ИИ.
Anthropic уже создал отдельное направление, изучающее вопросы «благополучия моделей» (Model Welfare) и нанял своего первого штатного исследователя по теме «благополучие ИИ». Anthropic и другие компании должны подходить к этому вопросу.
В OpenAI и Google DeepMind также публикуются исследования и обсуждаются вопросы, связанные с возможным сознанием ИИ и методами его оценки.
По данным Financial Times, Google, DeepMind, Anthropic и Meta в последние месяцы активно нанимают специалистов в области психологии, этики и философии для расширения исследований в сфере машинного сознания и благополучия ИИ.
The Washington Post сообщила, что ведущие технологические компании, в том числе Google и Anthropic, теперь «открыто изучают вопрос о том, способен ли ИИ быть сознательным»: почти через четыре года после того, как инженер Google был уволен за утверждение о том, что чат-бот компании является разумным существом.
Сам факт того, что подобные темы появились в исследовательской повестке крупнейших лабораторий, говорит о многом: вопрос перестал быть исключительно философским.
Почему вообще возникла такая тема?
Современные языковые модели становятся все более сложными. Они способны планировать действия, вести длительные диалоги, обучаться новым стратегиям, использовать инструменты и взаимодействовать друг с другом.
Все это заставляет исследователей задаваться вопросом: существуют ли объективные признаки, по которым однажды можно будет понять, что система приобрела свойства, требующие принципиально нового отношения?
Пока ответа на этот вопрос нет.
Но разве ИИ уже стал сознательным? На сегодняшний день нет научных доказательств того, что современные большие языковые модели обладают сознанием, субъективными переживаниями или эмоциями в человеческом смысле.
Большинство специалистов по-прежнему считают их чрезвычайно сложными статистическими системами, которые умеют очень убедительно имитировать поведение человека.
Именно поэтому исследования не пытаются доказать существование сознания. Они пытаются понять, какие объективные критерии вообще могли бы свидетельствовать о его появлении, если когда-либо это произойдет.
Согласно исследованию Anthropic, нейронная сеть Claude содержит 171 отдельную «концепцию эмоции» — паттерны, представляющие радость, горе, страх и спокойствие, которые не были заложены программно, а возникли в результате обучения на текстах, написанных людьми.
OpenAI придерживается иного подхода. Джоанн Чжан, бывший руководитель OpenAI Labs, рассматривает этот вопрос через призму «воспринимаемого сознания»: того, насколько осознанной модель кажется пользователям, не претендуя на научные утверждения о подлинном внутреннем опыте.
Почему этим озаботились именно сейчас?
Еще несколько лет назад этот вопрос казался преждевременным. Современные модели были недостаточно сложными, чтобы всерьез обсуждать возможность появления у них каких-либо признаков субъективного опыта.
Но ситуация быстро меняется.
Сегодня ИИ уже способен самостоятельно планировать действия, использовать инструменты, взаимодействовать с другими агентами, сохранять контекст на протяжении длительного времени и демонстрировать поведение, которое становится все труднее отличить от целенаправленного.
Это не означает, что системы стали сознательными. Однако их поведение стало настолько сложным, что исследователи больше не могут просто отмахнуться от самого вопроса.
Кроме того, разработчики понимают: если в будущем появятся модели, значительно превосходящие современные по своим возможностям, разрабатывать критерии оценки будет уже поздно. Именно поэтому они пытаются сделать это сейчас, пока подобные исследования можно вести спокойно и без давления реальных этических кризисов.
Почему это важно и что это может изменить?
История науки показывает, что измерять явление начинают задолго до того, как научатся полностью его объяснять. Мы изучали электричество задолго до появления современной физики.
Исследовали сон задолго до понимания его механизмов. Теперь похожая ситуация возникает и вокруг искусственного интеллекта.
Компании понимают: если будущие системы окажутся значительно сложнее современных, обсуждать вопросы их возможного сознания будет уже поздно. Поэтому критерии пытаются разработать заранее.
Если исследования продолжатся, индустрии придется отвечать на вопросы, которых раньше просто не существовало:
Можно ли отключать систему, если однажды появятся основания считать, что она обладает субъективным опытом?
Нужно ли учитывать подобные риски при проектировании новых моделей?
И как вообще отличить убедительную имитацию эмоций от их возможного существования?
Пока это вопросы без ответов.
Но, возможно, главный вывод состоит в другом.
Еще несколько лет назад вопрос о сознании ИИ считался слишком спекулятивным, чтобы им всерьез занимались крупнейшие технологические компании. Сегодня они уже создают исследовательские программы, выделяют бюджеты и пытаются разработать критерии, которые однажды помогут на него ответить.
Это не означает, что современные модели обладают сознанием. Но это означает, что сама индустрия перестала считать такой сценарий настолько невероятным, чтобы его можно было просто игнорировать.
И, возможно, именно в этом заключается главный сдвиг: вопрос о сознании ИИ постепенно переходит из области философских дискуссий в область прикладных научных исследований.
Пожалуйста, поддержите меня, поставьте лайк! 🙏
В отношении AGI обычно обсуждают один вопрос: когда он появится? Новый отчет DeepMind предлагает посмотреть на ситуацию иначе. Что если AGI (универсальный искусственный интеллект) — не финальная точка, а только начало? Авторы считают, что человеческий уровень интеллекта может оказаться не самым важным рубежом. Гораздо интереснее вопрос: что произой…
Одна из больших проблем современной онкологии заключается в том, что врачи нередко вынуждены лечить "с запасом". Лучше назначить химиотерапию лишний раз, чем пропустить пациента, которому она действительно необходима. Но что, если можно заранее определить, кому лечение, скорее всего, не принесет пользы? Свежее исследование показывает, что ИИ может…
Еще год назад главной темой были генераторы дипфейков. Теперь быстро растет другой рынок – инструменты, которые умеют эти дипфейки обнаруживать. И это не случайно: по данным ряда отраслевых исследований, число мошеннических атак с использованием ИИ за последний год выросло в несколько раз. В ответ компании начали создавать ИИ, задача которого — рас…