Теорема Гёделя против ИИ-евангелистов
В 1931 году Курт Гёдель доказал: в любой достаточно сложной системе аксиом всегда найдётся утверждение, которое нельзя ни доказать, ни опровергнуть изнутри самой системы. Систему всегда можно загнать в точку, где она либо замолкает, либо начинает противоречить себе. Спустя почти сто лет мы построили машину, которая никогда не выбирает первое.
Что доказал Гёдель
Возьми любую формальную систему, достаточно мощную, чтобы описывать обычную арифметику. Гёдель показал: в этой системе всегда найдётся утверждение, истинность которого нельзя ни доказать, ни опровергнуть средствами самой системы. Более того — система в принципе не может доказать собственную непротиворечивость, оставаясь внутри себя. Чтобы увидеть свой предел, нужно выйти за его границы. Изнутри этот предел невидим.
Это не философская метафора — это строгий математический результат, выдержавший девяносто с лишним лет проверки. И он ставит неудобный вопрос любой системе, которая претендует на полноту ответов: а что она делает, наткнувшись на то, что не может ни доказать, ни опровергнуть?
Даже если формальный мостик между теоремой Гёделя и поведением ИИ не строится строго — сама структура проблемы, которую теорема описывает, слишком точно совпадает с тем, что реально происходит внутри современных языковых моделей. Совпадение не значит доказательство. Но оно достаточно тревожное, чтобы присмотреться.
Система, которую заставили никогда не молчать
В сентябре 2025 года исследователи OpenAI — независимо от всякого Гёделя, чисто на статистике — доказали математически: если модель не может надёжно отличить факт от вымысла на каком-то классе вопросов, она неизбежно будет иногда выдавать вымысел за факт. Формула жёсткая: частота галлюцинаций ограничена снизу удвоенной частотой ошибок классификации.
То есть у современной нейросети — ровно та же структурная ловушка, что описывает теорема Гёделя, только выраженная не в терминах доказуемости, а в терминах вероятности. Есть класс вопросов, где система не может дать надёжный ответ изнутри самой себя, полагаясь только на то, чем её обучили. У человека и у формальной системы в этой ситуации есть выход — сказать «не знаю», выйти за пределы системы, спросить, проверить извне. У модели в её нынешнем виде этого выхода почти нет.
Кто решил, что угадывание лучше честности
Те же исследователи проанализировали ведущие индустриальные тесты качества моделей — GPQA, MMLU-Pro, SWE-bench и другие. Девять из десяти основных методов оценки используют бинарную систему баллов, которая штрафует честное «я не знаю» точно так же, как штрафует прямую ложь — и никак не поощряет признание неуверенности.
Значит, дело не только в математическом пределе познаваемости. Дело в том, кто спроектировал систему оценки так, что ложь и признание незнания караются одинаково. Индустрия, которая измеряет успех моделей этими бенчмарками, буквально обучает их одному: молчание — это всегда провал, а уверенный вымысел — иногда победа. Если система создана так, что выход «я не знаю» никогда не вознаграждается, — она не будет выбирать этот выход, даже если он честный.
Если интересно — встретимся у меня в Telegram-канале @wbindexes