Нобелевский лауреат из MIT доказал: ИИ математически уничтожает человеческие знания

Дарон Асемоглу вместе с коллегами из MIT опубликовал рабочий документ NBER, который моделирует долгосрочное влияние ИИ на человеческое познание. Сам Папер называется «ИИ, познание человека и разрушение знаний» (AI, Human Cognition and Knowledge Collapse, NBER Working Paper 34910, по ссылке https://www.nber.org/papers/w34910). Выводы вызывают серьезный разговор во всей академической среде. Больше экспертного разбора пишу у себя в tg!

Когда человек решает сложную задачу, он получает два типа знаний одновременно: общее понимание того, как устроен мир, и конкретное понимание контекста своей задачи. В норме человек делает тяжелую работу, и в процессе усваивает общий принцип. Потом делится им с остальными. Так растет коллективное знание.

ИИ-агенты отлично справляются с конкретными задачами. Они подают готовое решение на блюдечке. Человек перестает делать тяжелую работу. А раз он перестал делать работу, он больше не вырабатывает общее знание, на которое опирается общество.

Асемоглу называет это «равновесием коллапса знаний» (knowledge-collapse equilibrium). Когда ИИ достигает определенного порога точности, стимул у людей учиться падает до нуля. Никто не проверяет. Никто не исследует. Никто не открывает новые фундаментальные истины. Общество получает все более сложные автоматизированные выходы, но способность генерировать новые знания медленно разрушается.

Вывод об общественном благосостоянии оказался неожиданным: welfare «немонотонно» зависит от точности ИИ. Это значит: по мере того, как ИИ становится точнее, общество от этого в итоге проигрывает. Не выигрывает, а именно проигрывает. Механизм следующий: чем лучше ИИ отвечает, тем меньше людей берутся разбираться сами, тем меньше новых знаний появляется, и разрыв между мощью ИИ и реальным пониманием мира растет.

Полный текст папера доступен по ссылке: https://www.nber.org/papers/w34910