ИИ-агенты могут упереться в «математическую стену», согласно новому исследованию

Современные большие языковые модели (LLM) могут вскоре достигнуть фундаментального предела своих возможностей. Новое исследование, проведенное Вишалом и Варином Сикка, представляет математическое доказательство того, что ИИ-агенты не способны эффективно выполнять сложные вычислительные и логические задачи, если их трудность превышает определенный порог.

Суть проблемы заключается в том, что выполнение многоуровневых задач требует объема вычислений, выходящего за рамки внутренней емкости существующих архитектур. По мере роста сложности запроса модели начинают выдавать ошибки или некорректные результаты. Исследователи подчеркивают, что этот барьер нельзя преодолеть простым «масштабированием» — то есть бесконечным увеличением объема обучающих данных или вычислительной мощности.

Это открытие ставит под сомнение амбиции технологических гигантов по созданию полностью автономных систем. Ученые утверждают, что для реализации надежного искусственного интеллекта агентного типа недостаточно текущих статистических методов. Вероятностная природа нейросетей становится их главным ограничением: при выполнении длинных цепочек действий вероятность ошибки накапливается экспоненциально, создавая ту самую «математическую стену».

Результаты работы бросают вызов гипотезе о том, что путь к общему искусственному интеллекту (AGI) лежит исключительно через расширение текущих моделей. Если выводы авторов верны, индустрии потребуется смена парадигмы и поиск принципиально новых архитектурных решений, способных сочетать статистическую обработку данных с жесткой логикой и дедуктивным мышлением. Пока же математика остается непреодолимым препятствием для полной автономии ИИ.

Источник: Gizmodo

Исследование (PDF): Arxiv

Больше новостей в телеграм-канале: Quantum Drift