GPT подобные модели так не работают.. Нейросети не программируются в традиционном смысле этого слова , они тренируются. У нейросетей может быть разная архитектура , это могут быть самые банальные сети прямого распространения , глубокие нейросети , рекуррентные нейросети , VAE нейросети , программируется лишь основа , но вся магия раскрывается именно в процессе обучения. Традиционно только 1 алгоритм тренировки нейросети распространён широко , Forward - Backward Propogation. Ну и в довершении хочется отметить то , что архитектура GPT открыта , любой может на неё посмотреть. Отличия версий GPT лишь в количестве связей между нейронами.