Статья хорошая, однако один важнейший момент упущен.
Контекстное окно даже у gpt4o всего лишь ~6к слов.
О чем это говорит?
О том что спустя уже несколько объемных сообщений он забудет с чего вы вообще начали диалог, какая перед ним стоит задача и что ты вообще от него хочешь. Да, он будет подтягивать контекст из последних сообщений, но он уже не будет помнить какие задания он тебе давал и чему он тебя уже научил. Соответственно ни о каком долгосрочном прогрессе речи быть не может.