Исследователи Университета Британской Колумбии предложили элегантный способ это исправить. Они научили LLM сначала формулировать своё намерение (план), а потом действовать по нему. Это называется Speaking with Intent (SWI).
И да, это работает в том числе с ChatGPT, в том числе и в размышляющих моделях.