Анатомия нейронки — 2: «рассуждающая» нейросеть

Нейросеть называют «рассуждающей», «думающей», «мыслящей». Ставят ей баллы за «уровень размышлений». Но машина не думает и не рассуждает — она вычисляет. Подмена технических слов человеческими происходит не случайно, и сегодня я покажу, зачем именно создают эту иллюзию разума.

В «Анатомии нейронки» я разобрал, что внутри нет никакого разума — есть очень дорогой калькулятор на вероятностях. Сегодня — продолжение, но про более тонкий обман. Не про то, что внутри машины, а про то, какими словами нам про это рассказывают. Потому что главная иллюзия искусственного интеллекта создаётся не технологией, а языком.

Слово «рассуждает» — это маркетинг, а не описание

Смотрите, что происходит. Новое поколение моделей индустрия официально назвала «рассуждающими» (по-английски reasoning models — модели-резонеры). Маркетологи пишут, что такая нейросеть «думает», «размышляет», «рассуждает шаг за шагом», и даже выставляют ей баллы в бенчмарках за «уровень рассуждений». Звучит так, будто внутри сидит мыслитель.

Но давайте называть вещи своими именами. Машина не рассуждает — она производит больше вычислений. То, что красиво назвали «размышлением», технически означает простую вещь: вместо одного прохода расчётов модель делает много промежуточных, прежде чем выдать ответ. Это не мысль. Это больше арифметики. Честное техническое описание звучало бы так: «модель, выполняющая больше вычислений перед ответом». А нам говорят «думающая модель». Чувствуете разницу? Первое — скучная правда про калькулятор. Второе — намёк на живой разум. И выбрали намеренно второе.

Калькулятор тоже не «думает»

Вернусь к своей любимой аналогии, потому что она тут работает идеально. Нейросеть и калькулятор — это близкие родственники. Оба работают на математике, оба занимаются вычислениями. Калькулятор считает по законам арифметики, нейросеть — по законам теории вероятностей. Разница только в сложности и масштабе, но не в природе. И там, и там — голый расчёт, ноль понимания.

А теперь представьте, что производитель калькуляторов начал бы писать на коробке: «думающий калькулятор», «арифметический интеллект», «уровень размышлений при делении — 9 баллов из 10». Вы бы посмеялись. Вы прекрасно знаете, что калькулятор не думает, а считает. Так вот с нейросетью делают ровно это — и почти никто не смеётся. Потому что калькулятор привычен и понятен, а нейросеть новая и таинственная, и на неё легко навесить человеческие слова, в которые хочется поверить.

Зачем подменяют слова

И вот главный вопрос: зачем? Зачем индустрия целенаправленно заменяет точные технические термины человеческими — «вычисляет» на «думает», «обрабатывает» на «рассуждает», «выдаёт вероятное продолжение» на «понимает»?

Первый, очевидный ответ — маркетинг. «Искусственный интеллект, который думает как человек» продаётся в тысячу раз лучше, чем «статистическая модель, делающая много вычислений». За живой разум люди готовы платить, бояться его, мечтать о нём, вкладывать в него миллиарды. За калькулятор — нет. Так надувают и спрос, и инвестиционный пузырь, о котором я писал раньше. Это самое простое объяснение, и оно точно верное хотя бы отчасти.

Но я не был бы собой, если бы остановился на маркетинге. Потому что есть и второй слой, и он тревожнее. Честно скажу сразу: я не могу доказать, что это делается специально и с умыслом, — может, это чистая коммерция. Но у нас есть все основания как минимум задуматься.

Второй слой: иллюзия разума как инструмент

Все крупнейшие нейросети мира либо напрямую, либо опосредованно контролируются двумя государствами — США и Китаем: через деньги, оборонные контракты, своих людей в советах директоров, прямой партийный надзор. Это не догадка, это задокументированные факты. А теперь сложите это с подменой языка.

Если вы хотите, чтобы люди доверяли машине больше, чем себе и друг другу, — что вы сделаете? Вы убедите их, что машина не просто считает, а думает. Что она не инструмент, а разум — мудрый, объективный, всезнающий. Человек не станет слепо верить калькулятору. Но «думающему искусственному интеллекту», который «рассуждает» лучше тебя, — станет. Он понесёт ему свои вопросы, решения, сомнения, он будет принимать его ответ как мнение высшего разума, а не как выхлоп статистического движка, настроенного его хозяевами.

То есть иллюзия разума — это не безобидное преувеличение маркетологов. Это, возможно, фундамент будущего контроля. Чтобы добровольно отдать машине своё мышление, человек должен сначала поверить, что у машины это мышление есть и что оно выше его собственного. И подмена слов — «думает», «рассуждает», «понимает» — это первый кирпич в этом фундаменте. Сначала тебя приучают называть калькулятор мыслителем. Потом ты начинаешь ему верить как мыслителю. А потом — подчиняться. Я не утверждаю, что это спланировано в кабинетах. Я говорю, что всё выстроено так, будто спланировано, а кому это выгодно — мы уже знаем.

Что с этим делать

Защита здесь простая и бесплатная — следить за словами и мысленно переводить маркетинговый язык обратно на технический. Слышите «нейросеть думает» — переводите про себя: «нейросеть вычисляет». «Рассуждающая модель» — «модель, делающая больше вычислений». «ИИ понял ваш запрос» — «ИИ рассчитал вероятное продолжение». Каждый такой перевод возвращает вещам их настоящий смысл и снимает магию.

И держите в голове простое правило, там, где машине приписывают человеческое — мысль, разум, понимание, чувство, — вас почти всегда к чему-то готовят. Калькулятор не думает, сколько бы баллов за «размышления» ему ни поставили. Думаете здесь только вы. И самое ценное, что у вас есть, — это не доступ к «думающей машине», а ваша собственная, ничем не заменимая способность думать самому. Не отдавайте её той, что лишь притворяется разумом с помощью красиво подобранных слов.

Термин «модели-резонеры» (reasoning models) — официальное наименование индустрии, введённое в обиход с выходом модели OpenAI o1 (2024); технически означает модели, выполняющие промежуточные вычисления («цепочку мыслей») перед ответом. Антропоморфные формулировки («думает», «рассуждает», «зеркалит человеческое мышление») распространены в маркетинговых и даже технических описаниях (по материалам OpenAI, NVIDIA, IBM и др.). Сведения о государственном контроле над ИИ-компаниями — по материалам Bloomberg, The Washington Post, CNBC и комитета Конгресса США. Предположение о цели подмены терминов — авторская гипотеза, а не утверждение о факте.

Если интересно — встретимся у меня в Telegram-канале @wbindexes