Как могут выглядеть галлюцинации у ChatGPT

В процессе работы над проектом Романа я периодически замечал, что отдельные арты и фразы, создаваемые на основе текста повествования, имели подпись "Громов". При этом такого персонажа в промпте напрямую не было, а в прошлых генерациях героя звали иначе.

Отслеживая нетипичного для истории героя я определил, что в момент длительного таймаута и безуспешной попытки получить вовремя от OpenAI результата генерации, нейросеть на 2-3 итерации запроса генерировала заглушку (само собой, я предусмотрел это, как и многие другие варианты защиты от ошибок).

«Я стал проводником между битвой и сетью: мои нервы — провода, мои страхи — сигналы, и на границе войны каждый импульс — крик эпохи.» — Александр Громов

Такой заглушкой и был персонаж "Громов", возникающий каждый раз в истории в момент проблемы с передачей новой главы.

Теперь у меня есть красивый пример, как объяснить людям, каким образом может галлюцинировать ChatGPT.

А у Романа есть красивый пример истории создания интерактивной AI-книги, обязательно прочитайте его кейс!