Как настроить verbosity у GPT для коротких и подробных ответов

Если GPT отвечает подробнее, чем нужно приложению, базовую детализацию можно задать без переписывания промпта. Параметр verbosity в блоке text регулирует этот уровень, а требования к длине и содержанию конкретного ответа остаются в промпте.

В документации OpenAI указаны значения low, medium и high. Через Kosareva Cloud этот параметр передаётся в API OpenAI без изменений.

Я бы начала с «low» для задач, где читателю нужен вывод с необходимым обоснованием, а не развёрнутое объяснение. Для подробного разбора выбрала бы «high», для промежуточного уровня — «medium». Настройку удобно менять под формат ответа приложения, не перенося каждый раз общие пожелания к детализации в текст задания.

Но просьба отвечать кратко может оказаться лишней: OpenAI предупреждает, что общие инструкции о краткости иногда делают ответы слишком короткими. Если такие указания уже есть в промпте, я бы проверила их сочетание с «low». Сохранять их документация рекомендует, когда они стабильно дают нужный приложению результат.

Поэтому вместе с уровнем детализации я бы описала, что нельзя потерять при сокращении. Например: начать с вывода, оставить подтверждающие факты, существенную оговорку и следующее действие; убрать вступление и повторы. Такой подход предлагает и OpenAI. Для разработчика это способ отделить желаемую краткость от обязательного содержания: короткий ответ всё ещё должен помогать выполнить задачу.

Первым шагом я бы задала verbosity для конкретного сценария и перечислила в промпте обязательное содержание. Затем проверила бы на типичных запросах, сохраняется ли оно при выбранном уровне детализации.