Skip to main content
Use esta receita quando um serviço em Python precisar usar padrões gerenciados pelo painel, em vez de repetir a configuração de prompts, roteamento e parâmetros em cada requisição.

Objetivo

  • manter pequeno o código Python que faz a chamada
  • rotear por um slug de predefinição, em vez de fixar um modelo no código
  • solicitar uma saída estruturada estrita
  • manter metadados de resposta suficientes para depurar o roteamento ou o comportamento dos plugins

1. Comece com um cliente compartilhado

Compartilhe o cliente, em vez de criar um para cada requisição.

2. Mova os padrões estáveis para uma predefinição

Crie uma predefinição em Painel -> Configurações -> Predefinições quando estes valores precisarem permanecer estáveis entre vários chamadores:
  • prompt do sistema
  • modelo ou lista de modelos permitidos
  • preferências de provedores
  • configuração de raciocínio
  • temperatura e outros parâmetros de geração relacionados
  • política de cache de respostas quando a repetição determinística for importante
Depois que a predefinição existir, o código Python que faz a chamada pode continuar enxuto.

3. Solicite um formato JSON estrito

Por que esse formato funciona bem:
  • preset mantém os padrões de roteamento e de prompt fora do código do aplicativo
  • response_format deixa o contrato explícito
  • plugins pode recuperar JSON malformado quase válido quando o fluxo permitir
  • meta preserva detalhes do roteamento e da execução do plugin para depuração

4. Analise o JSON e registre os identificadores operacionais

Para workers em Python, isso geralmente basta para relacionar uma linha de log do aplicativo a:
  • a janela de detalhes da requisição no painel
  • os diagnósticos de roteamento
  • os metadados de execução do plugin

5. Depure antes de substituir configurações

Se uma requisição for roteada de forma diferente do esperado:
  1. abra a requisição em Gateway -> Uso
  2. confira os diagnósticos de roteamento e os provedores candidatos
  3. inspecione os metadados de execução dos plugins se houver JSON estruturado
  4. altere a predefinição somente depois que os logs mostrarem o que aconteceu
Evite tentar corrigir uma requisição problemática adicionando muitas substituições inline. Isso geralmente anula a vantagem de usar predefinições.

6. Mantenha a compatibilidade do cache quando quiser reutilizar resultados

Se a predefinição habilitar o cache de respostas:
  • mantenha estável o texto do prompt
  • mantenha estável o esquema da resposta
  • evite substituições desnecessárias de provedor em cada requisição
  • evite listas de ferramentas que mudem com frequência
Se um chamador realmente precisar de outro comportamento, use uma predefinição separada em vez de reduzir a reutilização do cache no fluxo compartilhado.

Guias relacionados

Última modificação em 2 de outubro de 2026