O que conta em uma solicitação
Quando o raciocínio esgota o limite de saída
Um modelo de raciocínio pode gastar todo o limite de saída antes de produzir uma resposta. A resposta continua sendo HTTP200 e contém o raciocínio produzido, sem nenhuma resposta inventada:
Uma parada normal continua sendo
stop (Chat Completions) ou completed (Responses). Aumente o limite de saída ou reduza o esforço de raciocínio se você vir isso com frequência.
Defina um orçamento por rota
- Defina um tamanho máximo de entrada para cada tipo de solicitação, como uma resposta de busca ou um rascunho longo. Não copie um mesmo limite para todos os endpoints.
- Deixe espaço de saída para a resposta mais longa que esse tipo de solicitação deve produzir.
- Corte ou resuma o contexto grande antes de enviá-lo, começando pelos trechos com menor probabilidade de importar.
- Verifique se as saídas foram truncadas, como
finish_reason: "length"ou JSON parcial, e tente novamente com mais espaço quando isso acontecer. - Acompanhe ao longo do tempo as contagens de tokens no
usagede cada resposta e ajuste os limites conforme os seus prompts mudam.