Pular para o conteúdo principal
Migre vários serviços para uma única predefinição para que compartilhem um prompt, um modelo e regras de provedor, e depois use os registros de solicitações para explicar para onde cada solicitação foi. No fim, os seus chamadores enviam "model": "@release-summary" e a entrada, e você consegue implantar uma mudança de política um chamador por vez. O formato da solicitação está pronto para produção. Predefinições explica como as configurações de uma predefinição se combinam com a solicitação; esta receita trata da implantação.

Migre um chamador para uma predefinição

1

Crie a predefinição

Em Configurações → Predefinições, crie release-summary com um prompt de sistema, os modelos aprovados, as preferências de provedor e parâmetros padrão como temperature. Ou com uma chave de gerenciamento:
2

Chame pelo nome

Envie a predefinição como model. Não existe um campo preset separado.
model na resposta é o modelo que respondeu, e meta.routing.selected_provider é o provedor.
3

Confira o que a predefinição aplicou

Abra a solicitação em Configurações → Uso → Registros. Ali aparecem os padrões da predefinição que foram aplicados. Um modelo fora dos modelos permitidos da predefinição falha com validation_error (palavra-chave preset_model_not_allowed) em vez de ser roteado para outro.

Explique uma decisão de roteamento

Quando uma solicitação não foi roteada como você esperava, expanda Observabilidade do roteamento na solicitação em Configurações → Uso → Registros. Ela responde a três perguntas: Explique uma decisão de roteamento descreve cada campo.

Implante uma mudança de política

  1. Publique a mudança como uma nova versão da predefinição ou crie um novo slug para uma política muito diferente.
  2. Migre um chamador de baixo risco para ela, por exemplo apontando-o para @release-summary@v4 ou para um rótulo canary.
  3. Compare os detalhes das solicitações e as tendências de uso dele com os dos outros chamadores.
  4. Migre os demais chamadores quando o roteamento corresponder ao que você espera. Para reverter, aponte o rótulo para a versão anterior.
Versione e reverta explica as versões e os rótulos. Para substituições no nível da solicitação que não devem ficar em uma predefinição, veja Fixe ou ignore provedores.
Última modificação em 7 de novembro de 2026