Иллюзия AGI: Разбор архитектурных барьеров трансформеров на основе исследования AI & Society

Scaling law дает беглость речи, но не дает понимания: популярная гипотеза о том, что простое наращивание мощности и текста сделает ИИ умнее человека, упирается в системный тупик. На основе свежего исследования доктора Саймона Торна из Cardiff Met разбираем 13 фундаментальных барьеров трансформеров, опыт бенчмарков 2025–2026 годов и архитектурный сдвиг в сторону гибридных систем.

Вся суть статьи — в одной схеме ниже. Если вам лень читать длинный разбор 13 барьеров трансформеров из исследования AI & Society и опыт бенчмарков 2025–2026 годов, смотрите инфографику: она показывает, почему успешные PoC-демо ломаются в продакшене и как внешнее управление состоянием, поисковый инференс (Test-Time Compute) и гибридные обвязки защищают корпоративные системы от каскадных ошибок.

Технологическая индустрия последние несколько лет функционирует в рамках доминирующей парадигмы: фундаментальная гипотеза масштабирования (scaling hypothesis) утверждает, что непрерывная экстраполяция вычислений, рост параметров моделей и насыщение датасетов сотнями триллионов токенов приведут к возникновению общего искусственного интеллекта (AGI). Предполагается, что качественные когнитивные скачки являются неизбежным эмерджентным свойством количества обработанных данных.

Междисциплинарное академическое объединение Knowledge Observation Group при участии доктора Саймона Торна из Университета Кардифф Метрополитан опубликовало в авторитетном журнале AI & Society работу «More problems of large language models in comparison with human knowledge».

Авторы работы не закрывают глаза на колоссальный технологический прогресс, достигнутый за последние годы, и не утверждают, что большие языковые модели бесполезны. Их ключевой тезис носит более тонкий характер: популярный нарратив о неизбежном и автоматическом достижении AGI за счет одного лишь наращивания обучающих выборок упирается в системный тупик.

Наращивание мощности монолитных трансформеров создает высокую беглость речи, однако ограничения современных генеративных систем кроются не в нехватке текстов, а в фундаментальной разнице между статистической обработкой символов и социальным устройством человеческого познания.

Чтобы сформировать объективную картину, важно разделить природу этих барьеров: часть из них являются фундаментальными архитектурными пределами трансформеров, в то время как другие представляют собой прикладные инженерные задачи, решаемые за счет внешних обвязок и инструментов.

Чтобы понять, почему добавление новых гигабайт текста не устраняет проблему галлюцинаций и ошибок рассуждения на фундаментальном уровне, необходимо сопоставить базовую природу человеческого интеллекта с математическими принципами работы авторегрессионных моделей. Ошибка радикальных сторонников гипотезы масштабирования заключается в попытке свести институциональное знание к объему текстовой информации.

Человеческое познание носит социальный, коллективный и мультимодальный характер. Индивид усваивает картину мира через включенность в человеческие сообщества, коммуникацию, институты образования и научные дисциплины. Человек проверяет гипотезы в реальном физическом мире, испытывает последствия собственных решений и принимает на себя ответственность за транслируемые утверждения.

Главный элемент человеческой компетентности — это понимание границ собственного знания. Социальный опыт учит человека сомневаться, оценивать надежность свидетельств и прямо признавать факт незнания, когда аргументов недостаточно.

Большие языковые модели функционируют в принципиально ином математическом пространстве. Их задача сводится к минимизации функции потерь при предсказании вероятности следующего токена на основе распределения символов в обучающем корпусе. В рамках классической авторегрессионной архитектуры отсутствуют встроенные механизмы прямой репрезентации физической реальности или социальной нормы.

Понятия «истина», «доказательство» или «ошибка» внутри нейросетевых матриц выражаются через статистические корреляции. В результате модель демонстрирует высокий уровень беглости речи (fluency), но в рамках своей башни весов не обладает собственной автономной проверкой истинности.

Исследование Саймона Торна и группы Knowledge Observation Group систематизирует ключевые узкие места современных генеративных систем. Однако с инженерной точки зрения крайне важно проводить четкую грань между теоретическим пределом трансформерной математики и прикладными проблемами, для которых индустрия уже разрабатывает компенсаторные механизмы.

Стандартная авторегрессионная нейросеть архитектурно настроена на непрерывную генерацию текста на основе входящего контекста. У базового трансформера отсутствует внутренний пороговый механизм, определяющий недостаточность данных и блокирующий генерацию.

Пример: Попросив модель составить список судебных прецедентов по несуществующему нормативному акту, пользователь часто получает перечень с номерами дел и юридическими формулировками, так как вероятностный алгоритм стремится заполнить текстовую паузу.

Живая речь опирается на прагматику общения, контекст автора и невербальные нормы. Текст для LLM — это изолированная последовательность векторов, из-за чего ирония или специфический сленг могут восприниматься как прямые утверждения.

Пример: Фраза «Замечательное архитектурное решение» под фрагментом кода с критической уязвимостью в производительности воспринимается базовой моделью как положительный отзыв, если в промпте явно не задана роль аудитора безопасности.

Этические барьеры в нейросетях — это не продукт осмысления категории вреда, а внешняя надстройка в виде фильтрации входных токенов и алгоритмов выравнивания (RLHF). Внутренне модель остается индифферентной к нормам морали.

Пример: Прямой запрос на получение инструкции по изготовлению опасных веществ отклоняется внешним фильтром, но при смещении контекста на гипотетический сценарий для книги модель может обойти этические ограничения, так как семантически не различает вред и его описание.

Алгоритм вычисления вероятностей не оценивает методологическую строгость источников. Для математической матрицы тексты из рецензируемого научного журнала и пост из личного блога являются эквивалентными наборами токенов.

Пример: Если в обучающем комплекте количество публикаций с псевдонаучными гипотезами превышает объем профильных академических статей, модель может отдать статистический приоритет неверной версии просто за счет высокой частоты встречаемости формулировок..

Генерация правдоподобного вымысла является обратной стороной вероятностного движка. Задача авторегрессионной модели — скомпоновать наиболее вероятную последовательность слов, а не извлечь факт из реляционной базы данных.

Пример: При формировании списка академических источников по узкой тематике модель генерирует авторов с реальными именами, структуру библиографии и существующие индексы DOI, но сами названные статьи оказываются полностью сгенерированным вымыслом.

Механизмы позиционирования токенов фиксируют порядок слов внутри контекстного окна, но не создают встроенной концепции стрелы времени или причинно-следственной связи между историческими эпохами.

Пример: Модель может назвать даты жизни исторической фигуры, но при составлении художественного описания сгенерирует сценарий, где персонаж использует технологии, появившиеся спустя полвека после его смерти.

Так как методы выравнивания (alignment) не формируют у нейросети внутренних убеждений, установленные правила безопасности могут обходиться с помощью промпт-инжиниринга и смены контекстной роли.

Пример: Прямой запрос на создание вредоносного скрипта блокируется системой защиты, однако тот же запрос, оформленный от лица специалиста по кибербезопасности, проводящего плановый аудит на изолированном стенде, позволяет получить нежелательный код.

Пошаговое решение задач (Chain of Thought) на базовом уровне сводится к воспроизведению шаблонов доказательств из обучающего датасета, а не к самостоятельному акту дедукции.

Пример: Модель решает стандартную математическую задачу из школьного курса, но допускает ошибки, если изменить условия так, чтобы они противоречили привычному текстовому паттерну из обучающей выборки.

В длительных вычислительных цепочках у базовой модели нет автономного модуля для проверки промежуточных результатов. Неточность на этапе N становится валидным контекстом для этапа N+1.

Пример: При генерации архитектуры крупного программного модуля неверный выбор структуры данных на первых шагах приводит к тому, что весь дальнейший код строится на ложном основании.

Это инженерное свойство текущих моделей: параметрическая память фиксируется в момент завершения этапа pre-training. В отличие от фундаментальных пределов, эта проблема сегодня успешно решается через внешнюю память и протоколы интеграции.

Пример: Без подключения сторонних поисковых модулей или корпоративных баз данных модель выдает устаревшие финансовые показатели компании, опираясь на зафиксированный в весах срез прошлых лет.

Данный барьер также относится к области инженерной оптимизации датасетов. Математическая оптимизация усредняет данные, из-за чего модель отсекает редкие контексты в пользу наиболее частотных.

Пример: При генерации описаний руководящих или инженерных ролей без явного указания пола модель демонстрирует статистический уклон в пользу мужчин, повторяя перекосы из обучающей выборки.

У чистой языковой модели отсутствует сенсорный опыт и физическая репрезентация объектов. Нейросеть вычисляет связи между словом «тяжелый» и другими токенами, но не обладает непосредственным опытом взаимодействия с физической средой.

Пример: Модель может выдать подробное текстовое руководство по сборке узла, однако предложенная последовательность действий иногда оказывается физически нереализуемой из-за пространственных ограничений деталей.

Трансформеры демонстрируют высокие результаты внутри распределения обучающих данных (in-distribution), но их эффективность снижается при столкновении с принципиально новыми концептами или правилами (out-of-distribution).

Пример: При необходимости обработать проприетарный формат данных или решить логическую задачу с инвертированными правилами физики модель сбивается на генерацию привычных шаблонов из стандартного веб-текста.

Критики академических разборов ограничений LLM часто указывают на стремительный рост результатов в ключевых индустриальных бенчмарках за последний период.

Действительно, результаты на ARC-AGI (тесте на абстрактное мышление Франсуа Шолле) и SWE-bench (оценке способности решать реальные задачи в программерских репозиториях) продемонстрировали существенный рывок. Однако детальный анализ источников этого роста не опровергает выводы исследований, а, напротив, подтверждает их.

Главный урок 2025–2026 годов заключается в том, что прирост производительности был получен не за счет наращивания параметров базовых моделей (pre-training scale), а благодаря внедрению Test-Time Compute (вычислений на этапе инференса) и агентских обвязок (scaffolding / harness engineering).

В бенчмарке ARC-AGI, который долгое время оставался непроходимым для чисто авторегрессионных сетей, прорыв произошел с появлением моделей рассуждений (Large Reasoning Models) и систем синтеза программ. Применение генеративно-верификационных циклов, где модель генерирует сотни гипотез, проверяет их на тестовых сетках и итерирует решение, позволило поднять точность с скромных показателей прошлых лет до высоких значений на ARC-AGI-1.

Однако, как только организаторы выпустили усложненные интерактивные версии ARC-AGI-2 и ARC-AGI-3 (требующие исследования среды в реальном времени), результаты монолитных систем снова просели. Это наглядно показало: модель не «научилась мыслить», а получила эффективный инструмент автоматизированного перебора и проверки кода во время вывода.

Аналогичная картина наблюдается на бенчмарке SWE-bench. Анализ показывает, что при сравнении флагманских базовых моделей их производительность на одинаковом тестовом контуре различается незначительно.

Однако изменение среды исполнения (harness) — внедрение продвинутого поиска по коду, автоматического сжатия контекста, параллельного вызова инструментов и структурированного отката при ошибках — дает прирост в 20–30 процентных пунктов на одной и той же модели. То есть ключевым дифференциатором стал не сам трансформер, а инженерный каркас вокруг него.

Эти результаты подтверждают ключевую мысль: масштабирование датасетов предварительного обучения уперлось в насыщение, а реальный прогресс сместился в сторону построения сложных систем, компенсирующих изъяны базовых LLM.

Важно подчеркнуть, что описанные в исследовании Саймона Торна 13 барьеров не означают остановку прогресса в сфере искусственного интеллекта. Они лишь обозначают границы применения чистых монолитных трансформеров. Современный инженерный стек ИИ активно развивается именно в направлении нейтрализации этих слабых мест за счет создания внешних систем управления и верификации.

Индустрия предлагает конкретные архитектурные ответы на обозначенные проблемы, смещая фокус с попыток сделать «всезнающую» сетку на построение составных систем:

Результаты исследования Саймона Торна и группы Knowledge Observation Group наглядно демонстрируют: попытки решить фундаментальные проблемы нейросетей исключительно за счет экстенсивного масштабирования обучающих выборок упираются в точку убывающей отдачи. Увеличение объемов вычислений обеспечивает высокую беглость речи, но само по себе не создает механизмов глубокой логической верификации.

Для разработчиков, продукт-менеджеров и бизнеса это означает необходимость прагматичного подхода к архитектуре ИИ-решений. Монолитная языковая модель не должна выступать единственным и неконтролируемым центром принятия решений в критических бизнес-процессах. Практический вектор развития смещается в сторону гибридных систем:

Будущее эффективных ИИ-систем лежит не в ожидании «всезнающего» монолитного трансформера, а в грамотной инженерной обвязке, способной надежно компенсировать особенности вероятностного прогнозирования токенов.

Выпустили аудиоверсию этого материала.

В этом выпуске разбираем архитектурный тупик гипотезы масштабирования (scaling hypothesis) и фундаментальный разрыв между беглостью речи LLM и реальным пониманием.

На основе исследования доктора Саймона Торна из Cardiff Met в AI & Society и опыта бенчмарков 2025–2026 годов обсуждаем 13 изъянов трансформеров, причины сбоев PoC-демо в продакшене и переход от монолитных сетей к гибридным системам с поисковым инференсом (Test-Time Compute) и детерминированным контролем среды.

Слушайте нас на своих любимых подкаст-платформах.