Desplegar ajustes preestablecidos y depurar el enrutamiento

​

Objetivo

• Unificar los valores predeterminados de prompts y parámetros.
• Limitar los proveedores disponibles durante un despliegue o por requisitos de cumplimiento.
• Conservar suficiente contexto de la solicitud para explicar por qué se enrutó de esa manera.

​

1. Crea el ajuste preestablecido

• Un nombre claro y un slug
• Un prompt de sistema
• Modelos aprobados
• Preferencias de proveedores
• Valores de parámetros predeterminados, como temperature

​

2. Mantén pequeño el cuerpo de la solicitud

curl https://api.phaseo.app/v1/responses \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "anthropic/claude-sonnet-4-5",
    "input": "Generate a release summary for the last 24 hours.",
    "preset": "release-summary"
  }'

import Phaseo from "@phaseo/sdk";

const client = new Phaseo({ apiKey: process.env.PHASEO_API_KEY! });

const response = await client.generateResponse({
  model: "anthropic/claude-sonnet-4-5",
  input: "Generate a release summary for the last 24 hours.",
  preset: "release-summary",
});

console.log(response.output_text);

from phaseo import Phaseo

client = Phaseo(api_key="YOUR_API_KEY")

response = client.generate_response(
    {
        "model": "anthropic/claude-sonnet-4-5",
        "input": "Generate a release summary for the last 24 hours.",
        "preset": "release-summary",
    }
)

print(response.get("output_text"))

​

3. Comprende qué cambia el ajuste preestablecido

• Los parámetros que falten en la solicitud se completan con el ajuste preestablecido
• El prompt del ajuste preestablecido se antepone a la capa de sistema
• las preferencias de proveedor reducen la lista de proveedores disponibles antes de ordenarla
• Las restricciones de modelos se comprueban al principio en vez de cambiar la ruta en silencio

​

4. Depura el resultado del enrutamiento

• Proveedores considerados
• Candidatos ordenados
• Factores de enrutamiento asociados a cada candidato
• Bloqueos por políticas del espacio de trabajo o protecciones

• Por qué se omitió un proveedor
• Por qué se bloqueó una solicitud
• Por qué ganó un destino más barato o con menor latencia

​

5. Patrón operativo

1. Crea un slug de ajuste preestablecido nuevo para la nueva política.
2. Cambia una llamada de bajo riesgo al ajuste nuevo.
3. Revisa los detalles de las solicitudes y las tendencias de actividad.
4. Amplía el despliegue solo cuando los resultados del enrutamiento coincidan con lo esperado.

​

Guías relacionadas

• Ajustes preestablecidos
• Enrutamiento y alternativas
• Gestión de errores