OpenAI выпустили исследование на эту тему, где утверждают, что это "лечится" и доходчиво объясняют причины (спойлер – они системные) и механизмы галлюцинаций. И предлагает решение проблемы
Утверждать, то галлюцинации — это загадочный сбой в современных языковых моделях, нельзя. Мы понимаем статистические механизмы возникновения галлюцинаций…