Saltar al contenido principal
Compara lo que cuesta un modelo en cada proveedor con la rapidez con que ha atendido el tráfico de Gateway y, después, confirma los finalistas con tus propios prompts antes de trasladar el tráfico de producción.

Elige la métrica que importa para tu carga de trabajo

Ninguna puntuación por sí sola demuestra que un modelo sea la mejor opción para todas las cargas de trabajo.

Compara precios

Las tarifas de los proveedores usan unidades distintas: por token, por millón de tokens, por imagen, por segundo, por minuto o por solicitud. Phaseo mantiene cada precio en su propia unidad y convierte los precios de texto comparables a precio por millón de tokens en las vistas del catálogo y en la calculadora de precios. En los modelos de texto, compara por separado los medidores de entrada, entrada en caché, escritura en caché, razonamiento y salida cuando existan. Los modelos multimedia mantienen su propia unidad de facturación; compara un precio de vídeo por segundo solo con otros precios por segundo.
Los precios del catálogo estiman una solicitud; no son un presupuesto para cualquier contenido. Los niveles de los proveedores, las ofertas regionales, los precios por lotes, el comportamiento de la caché y los medidores específicos de cada solicitud cambian el importe final.
Usa la calculadora de precios con un contenido representativo y, después, confirma el importe cobrado en el uso de Gateway tras una solicitud de prueba.

Entiende las métricas de rendimiento

Phaseo registra los tiempos operativos de las solicitudes enrutadas a través del Gateway. El TTFT, la velocidad de salida, el TPOT y el ITL requieren una respuesta en streaming cuya primera salida tenga contenido. Los fragmentos del stream que solo contienen metadatos no cuentan. Las respuestas sin streaming pueden seguir aportando la duración del proveedor, el E2E del Gateway y el rendimiento efectivo, sin inventar un TTFT. El sobrecoste de Phaseo es el tiempo fuera de la llamada al proveedor seleccionado: el procesamiento del Gateway, el trabajo de enrutamiento, los reintentos y los efectos de la red. Varía con cada solicitud, así que interprétalo como una distribución en un intervalo definido, no como una cifra fija.

Interpreta bien los datos operativos

Las páginas de rendimiento resumen el tráfico real del Gateway. Son observaciones, no ejecuciones controladas de benchmarks, y describen una ruta durante un intervalo, no el modelo en sí. La latencia y la disponibilidad pasadas no garantizan resultados futuros. Los resultados cambian por:
  • la selección del proveedor y de la ruta
  • la ubicación de ejecución en Cloudflare y la ruta de red
  • las colas del proveedor o la carga regional
  • la longitud del prompt y de la salida
  • el comportamiento con streaming o sin streaming
  • los reintentos, las cancelaciones y las llamadas a herramientas
  • las actualizaciones del modelo o del proveedor durante el intervalo seleccionado
Los gráficos públicos pueden mostrar percentiles como P50, P90, P95 y P99. En la latencia, cuanto más bajo, mejor. En el rendimiento, cuanto más alto, mejor, así que un percentil de rendimiento más bajo describe la cola lenta. Registra siempre junto a un resultado el intervalo de tiempo, la ruta, la región, los filtros de muestra y el percentil seleccionados. No compares dos capturas de pantalla con intervalos distintos como si fueran el mismo estudio.

Ejecuta un estudio de carga reproducible

Usa la telemetría pública para reducir los candidatos y, después, valida los finalistas con tu propia mezcla de prompts.
  1. Elige dos o tres modelos enrutables de la respuesta predeterminada de GET /v1/models.
  2. Crea un conjunto de prompts sin datos sensibles que represente solicitudes cortas, típicas y largas.
  3. Fija el endpoint, la región, el modo de streaming, las restricciones del proveedor y la concurrencia.
  4. Repite las solicitudes de cada prompt en lugar de depender de una sola muestra.
  5. Registra el ID de la solicitud, el proveedor seleccionado, el éxito o el error, los tokens de salida, el TTFT del Gateway, la duración del proveedor, el E2E del Gateway, el sobrecoste de Phaseo y el coste.
  6. Compara las distribuciones y los modos de fallo y, después, conserva los resultados sin procesar junto con la configuración de la prueba.
Esquema de resultado de ejemplo:
Los valores cero son marcadores de posición. Publica valores medidos solo junto con la definición de la carga de trabajo, el número de muestras, el intervalo de tiempo y el permiso para divulgar los datos. Que un modelo esté en el catálogo no significa que se pueda enrutar, así que parte de la respuesta predeterminada de GET /v1/models. Una puntuación de benchmark no establece la calidad con tu mezcla de prompts; consulta la metodología de benchmarks para ver de dónde proceden las puntuaciones, que son independientes de la telemetría de Gateway. Para revisar todas las rutas de proveedor, capacidades y precios de un modelo, usa la API de endpoints de modelos o Comparar. Para incidentes y diagnóstico de fallos, consulta Fiabilidad y estado.
Última modificación el 5 de noviembre de 2026