Как работают привычные модели
ChatGPT, Claude и другие языковые модели пишут ответ по одному кусочку слова за раз. Каждый следующий кусочек зависит от предыдущего. Поэтому длинный ответ генерируется несколько секунд, а платите вы за каждый выданный токен.