service_tier en una solicitud de texto para pagar por una entrega más rápida (fast, ultrafast) o aceptar un modo más barato y de menor prioridad (flex). Phaseo enruta entonces solo a los proveedores que ofrecen ese nivel para el modelo. El campo funciona igual en /v1/chat/completions, /v1/responses y /v1/messages.
Los niveles solo están disponibles para modelos de texto, y solo cuando el modelo y el proveedor los admiten. Las páginas de los modelos muestran los precios de cada nivel cuando Phaseo los tiene.
Qué pasa cuando no se ofrece un nivel
Phaseo conserva solo las rutas de proveedor que ofrecen el nivel solicitado; nunca recurre a otro nivel. Si ninguna ruta lo ofrece, la solicitud falla con400 unsupported_model_or_endpoint, motivo service_tier_not_supported.
Otros valores fallan con 400 validation_error:
service_tier: "batch"en una solicitud síncrona (palabra clavebatch_service_tier_not_supported). Usa la Batch API en su lugar.- Cualquier valor distinto de
standard,default,fast,ultrafast,priority,flexobatch(palabra claveunsupported_service_tier).
Solicita un nivel en cada endpoint
ultrafast, usa un modelo cuya página muestre precios de Ultrafast.
Mistral Priority y enrutamiento en la UE
El nivel Priority de Mistral necesita una cuenta empresarial de Mistral apta. Phaseo asignapriority al modo de prioridad automática de Mistral y factura el nivel que indica Mistral: si Mistral recurre a Standard, pagas precios de Standard.
Que haya un precio en el catálogo no hace que un nivel sea enrutable. Priority sigue desactivado salvo que la ruta concreta de Mistral anuncie compatibilidad con Priority, y la aptitud sigue dependiendo de la cuenta y el modelo de Mistral.
GLM 5.2 se puede fijar al endpoint regional de Mistral en la UE con la oferta de proveedor mistral-eu: