Ограничения памяти в ChatGPT

У текстовых нейросетей вроде ChatGPT есть одно ограничение про которое мало кто говорит, но если вы ими пользуетесь как я для работы, то скорее всего с ним сталкиваетесь.

Если твой диалог с нейросетью достаточно длинный, нейросеть начинает тупить, забывать часть информации и чем дальше, тем более бесполезной она становиться.

Это связано с количество токенов которое нейросеть может запомнить в каждом диалоге. У неё просто заканчивается память выделенная на этот чат.

Если вы спрашиваете как научить голубя распознавать QR-код, то проблем не будет. А вот если проводите исследование или пишите дипломную работу, то очень обидно когда твой помощник превращается в идиота и забываем половину вашей переписки.

Как это исправить? Ну, вообще-то никак. Нужно начинать новый диалог. Но, перед уходом я прошу нейросеть написать сводку того что мы с ней обсуждали со всеми основными тезисами. Не большую тысячи на четыре символов хватит. Копируем её и идём в новый чат.

А ещё можно выбрать нейросеть с большим объёмом токенов. ChatGPT 4o запоминает 128 000 токенов это примерно 100 000 слов, а Gemini 2.5 от Google запоминает целый 1 000 000 токенов это около 750 000 слов.

Короче. Если нейросеть начала тупить, делай сводку, сжигай мосты и продолжай в другом чате.

А если ты прям любитель пообщаться с нейросетью, то выбирай Gemini от Google. 750 000 слов перепи**еть это нужно постараться.