Когда вы вводите текст, ChatGPT разбивает его на токены — отдельные слова, части слов или символы. Например, предложение «Привет, как дела?» может быть преобразовано в [Привет, ,, как, дела, ?]. Токены превращаются в числовые представления (векторы), с которыми работает модель.