Иллюзия разума: почему мы систематически ошибаемся, оценивая ИИ

Каждый раз, когда человечество сталкивалось с чем-то радикально новым и плохо понятным, оно совершало одну и ту же ошибку — начинало искать в этом самого себя.

Так мы создавали богов, объясняли природу, осмысляли космос. И так же мы сегодня говорим об ИИ.

Мы видим связную речь, логичную аргументацию, последовательные ответы — и автоматически делаем вывод: «там есть разум». Хотя история и наука снова и снова показывают: это ложный вывод, продиктованный не фактами, а устройством нашего мышления.

Антропоцентризм — не философская позиция, а когнитивное искажение. Наш мозг эволюционно настроен распознавать агентность: намерения, цели, «внутреннюю жизнь». Это было полезно в социальной среде, но становится опасным при анализе сложных технических систем.

В случае ИИ к этому добавляется ещё одна ошибка — антропонейризм: мы интерпретируем любые вычислительные структуры через призму человеческого мозга.

Отсюда и устойчивые мифы:

Аналогии — мощный инструмент мышления. Но именно поэтому они опасны.

«Нейроны» в нейросети и нейроны мозга связаны лишь очень отдалённым функциональным сходством. Биологический нейрон — это сложная биохимическая система, встроенная в тело, эволюцию и среду. Узел в нейросети — это математическая функция.

Это та же ошибка, что и старая школьная модель атома как «маленькой солнечной системы». Наглядно — да. Верно — нет.

Человеческий язык — это договорная система кодирования смыслов. Слова, грамматика и структуры сами по себе ничего не «понимают». Смысл возникает только внутри соглашения между носителями языка.

Нет «бедных» и «богатых» языков — каждый язык оптимален для своего вида, среды и социальной организации. И никакой другой язык у этих существ просто не мог бы возникнуть.

Большие языковые модели работают именно здесь:

Они статистически подбирают символы, опираясь на колоссальные массивы данных и вычислительные ресурсы. Их сила — не в сознании, а в масштабе.

Потому что в своей истории мы никогда не вели связный диалог с неживым объектом.

Наши собеседники всегда были другими людьми. Поэтому связная речь автоматически воспринимается как признак разума. Этот эффект был замечен ещё в 1960-х годах с программой ELIZA, но современные БЯМ довели его до предела.

Ключевая ошибка здесь проста: после — не значит вследствие.

Логичная речь не означает наличие сознания. Как калькулятор не становится математиком, решая уравнения.

Но есть и более тревожный вывод.

Если системы без субъективного опыта способны демонстрировать поведение, которое мы привыкли связывать с разумом — насколько вообще обязательно сознание для этих функций?

Этот вопрос уже давно обсуждается в философии сознания. И ИИ здесь — не угроза, а зеркало. Он подсвечивает, насколько расплывчато и плохо мы сами понимаем, что называем «мышлением» и «сознанием».

Есть ещё один фактор, о котором редко говорят честно.

ИИ сегодня — это не только наука и инженерия, но и бизнес в экономике внимания. Компании, визионеры и стартапы действуют по логике рынка: рост, капитализация, удержание пользователя.

Можно сколько угодно говорить о благих намерениях, но структурно это всегда бизнес-проекты. Это не хорошо и не плохо — это факт.

При этом разговоры о «пузыре» не отменяют реальности:

Железо не исчезнет не потому, что оно «вечное», а потому что в него встроены интересы, капиталы и институциональные решения.

Деньги — тоже язык. И, пожалуй, самый универсальный из всех.

Антропоцентризм в оценке ИИ — не ошибка отдельных людей, а фундаментальная особенность человеческого мышления.

Большие языковые модели — не новое сознание и не «разум в машине». Это мощные языковые инструменты, которые вскрывают наши собственные иллюзии, когнитивные искажения и слабые места в понимании самих себя.

И, возможно, в этом и заключается их главная ценность.

Текст написан человеком и отредактирован с использованием ИИ как инструмента структурирования и стилистической шлифовки — ровно того инструмента, о котором в нём идёт речь.