Lección 1 de 2 · 10 minutos

Enruta entre proveedores

Ordena, limita o fija proveedores, e indica modelos alternativos para cuando fallen.

La mayoría de los modelos los sirven varios proveedores. En cada solicitud, Phaseo se queda con los proveedores que permiten tus reglas, los ordena y llama al mejor. Si ese proveedor falla, prueba con el siguiente. El orden predeterminado, balanced, tiene en cuenta el coste por respuesta correcta.

Ajusta este comportamiento con el objeto provider (también se acepta routing como alias):

{
  "model": "openai/gpt-5.6-luna",
  "input": "Summarize this changelog.",
  "provider": {
    "order": ["openai", "azure"],
    "sort": "latency",
    "require_zero_data_retention": true
  }
}
  • order fija un orden preferido; only e ignore permiten o bloquean proveedores.
  • sort ordena por price, latency o throughput. Los sufijos de modelo :cheap, :fast y :nitro hacen lo mismo y tienen prioridad sobre sort.
  • max_price fija precios máximos; required_execution_region, required_data_region y require_zero_data_retention limitan dónde y cómo se tratan los datos.

Para fijar un proveedor sin alternativa entre proveedores, ponlo delante del ID de modelo: baseten:thinking-machines/inkling-small. Para enrutar regionalmente toda la solicitud, envía las solicitudes de texto a eu.api.phaseo.app o a us.api.phaseo.app.

Para pasar a otros modelos, indícalos en models. Phaseo prueba primero model y después cada entrada en orden, pero solo cuando el modelo anterior termina en 429, 500, 502, 503 o 504. Errores como 400, 401 o 402 se devuelven de inmediato. Cada intento se factura como una solicitud propia, y el campo model de la respuesta indica el modelo que respondió. Un stream solo pasa a una alternativa antes de su primer byte.

Comprueba lo que has aprendido

Envías "model": "openai/gpt-6-astra" con "models": ["anthropic/claude-sonnet-5.5"]. El primer modelo devuelve 400 validation_error. ¿Qué pasa?

Ponlo en práctica

Tu equipo legal dice que los prompts de los clientes solo pueden ir a proveedores con retención de datos cero, y que la aplicación nunca debe usar un proveedor concreto. No quieres fijar un único proveedor. ¿Qué envías?

Mostrar la respuesta

Mantén el ID de modelo sin prefijo para que Phaseo pueda seguir pasando de un proveedor a otro, y añade "provider": { "require_zero_data_retention": true, "ignore": ["<provider-id>"] }. Fijar con provider:model desactivaría la alternativa entre proveedores, que no es lo que quieres.

Idea clave

Usa provider para ordenar y limitar proveedores, un prefijo provider: para fijar uno y models para pasar a otros modelos cuando haya errores reintentables.

Enlaces relacionados

El progreso se guarda en este navegador.

Revisado por última vez el 17 de noviembre de 2026