Открытый путь к суперразуму: почему мы ещё не там

Саттон, работающий в Google DeepMind, заявил: «ИИ стал огромной индустрией и в каком-то смысле потерял свой путь».

Главная проблема, по его словам: мы зациклились на масштабировании LLM (огромных языковых моделей), которые лишь перерабатывают тексты, но не учатся от опыта.

Чего не хватает современному ИИ

Саттон перечисляет базовые принципы настоящего интеллекта:

1. Непрерывное обучение (без «катастрофического забывания»).

2. Мировые модели и планирование.

3. Абстрактные, обобщаемые знания.

4. Метa-обучение — умение учиться переносить опыт на новые задачи.

Сегодняшние ИИ, по его словам, наоборот: «все знания вшиты на этапе дизайна», они не открывают их сами.

Архитектура Oak: путь к сверхинтеллекту

Саттон предлагает свою концепцию — Oak (Options and Knowledge):

1. Агент начинает без заранее заданных знаний.

2. Учится только через опыт: наблюдая → действуя → получая награды.

3. Всё сводится к гипотезе вознаграждения: любая цель описывается числом (reward).

Ключевой механизм Oak — самоусиливающийся цикл абстракций: агент строит новые уровни знаний на основе предыдущих, усложняя представления и навыки. Это процесс открытый и бесконечный, ограниченный лишь вычислительными ресурсами.

Главная трудность

Чтобы Oak заработал, нужны алгоритмы настоящего непрерывного обучения, устойчивые к забыванию. Пока таких решений нет. Это и есть «недостающий кусок пазла».

Значение для образования и науки

Для педагогики это напоминает: настоящий интеллект рождается из опыта и взаимодействия, а не из «зазубривания» готовых текстов.

Для науки это вызов: индустрия ИИ не должна ограничиваться маркетингом и гонкой за большими моделями, а обязана возвращаться к фундаментальным принципам.