Александр Красноложкин

Без галлюцинаций не обошлось. Во-первых потому, что часть документов очень похожи друг на друга, во-вторых из-за большого количества схожего ассортимента (есть множество товаров, которые отличаются единственной мелкой характеристикой). Решаем по-разному: например, если дело в большом объёме документа, то делаем «саммари» документа и вставляем его в самое начало – это облегчает поиск такого документа и его интерпретацию, и значительно снижает количество галлюцинаций. Но с каждым обновлением GPT эта проблема становится всё менее актуальной.

Действительно, это моя опечатка. Но плюс в том, что даже если в запросе сделать опечатку или неграмотно его составить, LLM всё-равно поймёт его и ответ.
P.S. Приятно получить комментарий от самого короля рок-н-ролла)