/v1/chat/completions), Responses (/v1/responses) y Anthropic Messages (/v1/messages). La compatibilidad sigue variando según el modelo y el proveedor: la tabla de inicio rápido de cada página de modelo muestra qué parámetros admiten sus proveedores activos en cada endpoint. Para consejos de ajuste, consulta Parámetros de inferencia.
Parámetros no admitidos
Si el proveedor que atiende una solicitud no admite uno de sus parámetros de muestreo opcionales, Phaseo descarta ese parámetro: no se envía al proveedor y la solicitud no se rechaza, así que los clientes que siempre envían los valores predeterminados de OpenAI siguen funcionando. Phaseo decide por proveedor, primero a partir de su perfil de proveedor y después según los parámetros de catálogo de la ruta. Si una ruta no declara parámetros, solo se omite la comprobación del catálogo; los parámetros que el perfil del proveedor marca como no admitidos se siguen descartando, comotop_k en Cohere o stop en Reflection.
Un
ttl de caché de prompts de 12h también se elimina en las rutas que no admiten la caché de 12 horas de OpenAI, y se informa como prompt_cache_options.ttl o prompt_cache_breakpoint.ttl; consulta Caché de prompts.
Las respuestas correctas enumeran los parámetros descartados que envió el cuerpo de la solicitud:
- en el encabezado
X-Phaseo-Dropped-Params, comoX-Phaseo-Dropped-Params: top_k, min_p; - en
meta.routing.dropped_paramscuando la solicitud establecemeta: true, como[{"param": "top_k", "reason": "unsupported_by_provider"}].
Elige el modelo
model
El ID de modelo de Phaseo que se ejecuta, como openai/gpt-6-astra. Obligatorio. Usa el ID que aparece en el inicio rápido de la página del modelo; es la opción más segura para automatizaciones e integraciones de larga duración. Aquí también funciona el nombre de un preset, como @support-triage.
models
Modelos de fallback, que se prueban en orden después de model. model sigue siendo obligatorio y siempre se ejecuta primero. La siguiente entrada solo se prueba cuando un intento falla con 429, 500, 502, 503 o 504.
Tipo string[] · Entradas de 1 a 25; se ignoran los duplicados y las entradas iguales a model · Ejemplo ["anthropic/claude-sonnet-5.5", "google/gemini-4-argon"]
- Cada intento se valida, se registra y se factura como una solicitud independiente. El campo
modelde la respuesta y la traza de enrutamiento muestran el modelo que respondió. - Las solicitudes con streaming solo recurren al fallback antes del primer byte; los trabajos de vídeo y música, solo en el envío.
- Los fallbacks de una ruta dinámica asociada tienen prioridad. Se aceptan presets como entradas.
phaseo/autono se puede combinar conmodels. - Las solicitudes por lotes, en tiempo real y de consejo rechazan
modelscon400. - Los endpoints multipart aceptan campos
modelsrepetidos, camposmodels[]o un único array JSON.
stream
Devuelve la salida mediante Server-Sent Events a medida que se genera, en lugar de un único cuerpo de respuesta.
Tipo boolean · Predeterminado false
Úsalo para interfaces de chat y respuestas largas. Déjalo desactivado cuando quieras una única respuesta JSON, más fácil de reintentar y analizar. Las llamadas a herramientas y la salida estructurada pueden transmitirse de forma distinta según el proveedor. Consulta Streaming.
Muestreo
temperature
El grado de aleatoriedad en la selección de tokens. Los valores bajos dan una salida más conservadora y repetible; los altos dan más variedad, pero menos coherencia y menor ajuste al esquema.
Tipo number · Rango 0–2 en Chat Completions y Responses, 0–1 en Messages · Predeterminado el del proveedor (Phaseo no envía nada si no se establece)
Empieza con 0.2–0.7, y con valores bajos para extracción, clasificación y JSON. Ajusta temperature o top_p, no ambos a la vez. Una temperatura alta en un modelo muy cuantizado puede hacer que la salida sea inestable.
top_p
Muestreo de núcleo: el modelo elige entre el conjunto más pequeño de tokens cuya probabilidad combinada alcanza top_p. Los valores bajos dan una salida más acotada y enfocada.
Tipo number · Rango 0–1 · Predeterminado el del proveedor
0.9–1.0 con una temperature moderada es un buen punto de partida.
top_k
Limita el muestreo a los k tokens más probables en cada paso. Los valores bajos hacen que la salida sea más predecible. No todos los proveedores lo admiten.
Tipo integer · Rango -1 o más en Chat Completions, 0 o más en Messages · Predeterminado el del proveedor
min_p
Acota el muestreo descartando los tokens por debajo de un umbral mínimo de probabilidad.
Tipo number · Rango 0–1 · Predeterminado el del proveedor
frequency_penalty
Penaliza los tokens en proporción a cuántas veces han aparecido ya. Auméntalo cuando el modelo entre en bucle o repita frases.
Tipo number · Rango -2–2 · Predeterminado el del proveedor, normalmente 0
presence_penalty
Penaliza cualquier token que ya haya aparecido, lo que empuja al modelo hacia temas y formulaciones nuevos.
Tipo number · Rango -2–2 · Predeterminado el del proveedor, normalmente 0
repetition_penalty
Un control de repetición específico del proveedor, independiente de las dos penalizaciones anteriores. Su efecto exacto varía más según el proveedor.
Tipo number · Rango más de 0; los proveedores suelen aceptar hasta 2 · Predeterminado el del proveedor
logit_bias
Hace que tokens concretos sean más o menos probables. Las claves son IDs de token del tokenizador del modelo; los valores son el sesgo que se suma.
Tipo object (de ID de token a número) · Predeterminado sin establecer
seed
Solicita un muestreo con semilla, para depuración y pruebas de regresión. No se garantiza una salida idéntica entre proveedores ni tras cambios en la infraestructura del proveedor.
Tipo integer · Predeterminado sin establecer
Longitud de la salida y parada
max_tokens
Limita los tokens de salida en Chat Completions y es obligatorio en Messages. Úsalo para controlar el coste y la latencia; un valor demasiado pequeño corta la salida.
Tipo integer · Rango 1 o más (0 o más en Messages) · Predeterminado el del proveedor en Chat Completions
max_output_tokens
Limita los tokens de salida en Responses. Tiene el mismo propósito que max_tokens; envía el nombre que usa tu endpoint.
Tipo integer · Rango 1 o más · Predeterminado el del proveedor
max_completion_tokens
Limita los tokens de salida en Chat Completions; es el nombre más reciente de OpenAI para max_tokens. No mezcles los dos en una misma solicitud.
Tipo integer · Rango 1 o más · Predeterminado el del proveedor
stop
Una o varias secuencias que terminan la generación, como el final de una plantilla o un marcador de protocolo. En Messages el campo es stop_sequences y acepta un array.
Tipo string o string[] · Predeterminado sin establecer
Probabilidades de los tokens
logprobs
Devuelve la probabilidad logarítmica de cada token de salida, para evaluación, clasificación y puntuación de confianza.
Tipo boolean · Predeterminado false
top_logprobs
Devuelve los tokens alternativos más probables en cada posición, con sus probabilidades logarítmicas. Necesita logprobs: true.
Tipo integer · Rango 0–20
Herramientas
tools
Las herramientas que el modelo puede llamar. Usa el esquema de herramientas de OpenAI salvo que la referencia del endpoint indique otra cosa; Messages usa el de Anthropic. Declarar una herramienta no obliga al modelo a llamarla.
Tipo array · Predeterminado sin establecer
tool_choice
Si el modelo puede llamar a herramientas: none para solo texto, auto para que el modelo decida, required para forzar una llamada, o un objeto que nombra una herramienta.
Tipo string u object
parallel_tool_calls
Permite varias llamadas a herramientas en un turno. Configúralo como false cuando tus herramientas deban ejecutarse de una en una, por ejemplo cuando tienen efectos secundarios ordenados.
Tipo boolean · Predeterminado el del proveedor (Phaseo no envía nada si no se establece)
max_tool_calls
Limita cuántas llamadas a herramientas hace el modelo en la solicitud.
Tipo integer · Rango 1 o más · Predeterminado sin establecer
Salida estructurada
response_format
Pide texto sin formato, JSON o una salida que cumpla un esquema JSON. Las formas aceptadas dependen del endpoint y del proveedor.
Tipo string u object · Predeterminado el del endpoint y el proveedor
json_schema
El esquema JSON que debe cumplir la salida, definido dentro de response_format ({"type": "json_schema", "json_schema": {...}}). Mantén los esquemas acotados y específicos de la tarea para que se cumplan mejor.
Tipo object
structured_outputs
No es un campo de solicitud. En una página de modelo, marca los endpoints cuyos proveedores activos admiten salida restringida por un esquema. Solicítala con response_format.
Razonamiento
reasoning
Configura el razonamiento en los modelos que lo admiten.
Los campos sin establecer mantienen el valor predeterminado del modelo. Un esfuerzo mayor ayuda en problemas difíciles y cuesta más latencia y tokens.
reasoning_effort
La forma abreviada de reasoning.effort en Chat Completions.
Tipo string · Valores none, instant, minimal, low, medium, high, xhigh, max · Predeterminado el del modelo
reasoning_tokens
No es un campo de solicitud. En una página de modelo, marca las rutas que informan de tokens de razonamiento o aceptan un presupuesto de razonamiento. Define el presupuesto con reasoning.max_tokens.
include_reasoning
Se acepta en Chat Completions por compatibilidad y no tiene efecto: el contenido y los resúmenes de razonamiento se devuelven siempre que el modelo los produce. La salida de razonamiento puede ser grande y no todos los modelos la devuelven. Para reducirla, baja reasoning.effort o configura reasoning.enabled como false.
Tipo boolean
Nivel de servicio y caché de prompts
service_tier
Elige un nivel de velocidad y precio en Chat Completions, Responses y Messages, cuando el modelo y el proveedor lo admiten. Phaseo asigna cada valor al control propio del proveedor.
Tipo string · Predeterminado standard
batch no es un nivel y se rechaza; usa la API de lotes. Con un SDK oficial de Anthropic apuntando a Phaseo, usa preferentemente auto y standard_only de Anthropic en /v1/messages; para ultrafast, priority, flex o fast, usa HTTP directo o Chat Completions y Responses. Consulta Niveles de servicio.
prompt_cache_key
Mantiene las solicitudes que comparten un prefijo de prompt, como los pasos de un bucle de agente, en el proveedor que guarda su caché.
Tipo string · Predeterminado sin establecer · Endpoints Chat Completions, Responses, Messages
Phaseo fija la clave al proveedor y a la ruta (despliegue o región) que atendió la primera solicitud correcta, y mantiene ahí las solicitudes posteriores con la misma clave hasta que ese proveedor falla, se agota la cuota gestionada de Phaseo en él o tu política de enrutamiento deja de permitirlo. Las fijaciones son por espacio de trabajo y duran lo mismo que la retención de caché del proveedor. Consulta Afinidad de proveedor.
Phaseo envía al proveedor un hash del ID de tu espacio de trabajo y de la clave, nunca la clave sin procesar, así que dos espacios de trabajo que eligen la misma clave no comparten la caché de un proveedor. Las respuestas devuelven la clave que enviaste. Los proveedores cuya API rechaza el campo no lo reciben, y enviarlo nunca excluye a un proveedor del enrutamiento. Sin clave, Phaseo deduce la afinidad a partir de la solicitud, pero una clave explícita funciona mejor para conversaciones largas y sesiones de agente.
prompt_cache_options
Modo y duración de la caché de prompts para OpenAI y Azure OpenAI GPT-5.6 y posteriores (incluido GPT-6 Astra), DeepInfra y Moonshot AI.
Tipo object · Campos mode (implicit o explicit), ttl
Usa
{"mode": "explicit", "ttl": "30m"} para que OpenAI solo guarde en caché los puntos de corte que colocas. Una duración que la ruta no admite, como 12h en Azure OpenAI o 1h en un modelo de Moonshot AI sin precio de 1 hora, se elimina y aparece en X-Phaseo-Dropped-Params. Ningún otro proveedor, ni los modelos de OpenAI anteriores a GPT-5.6, recibe prompt_cache_options; esos modelos de OpenAI usan prompt_cache_retention. También se acepta provider_options.openai.prompt_cache_options; prevalece el valor de nivel superior.
cache_control
En el nivel superior, define una política de caché de prompts de Claude. En un bloque de contenido, una definición de herramienta o un resultado de herramienta, marca un punto de corte de caché.
Tipo object · Campos type, ttl, scope
Nivel superior. Se acepta en Chat Completions, Responses y Messages. Se aplica a Claude en Anthropic, Claude en AWS, Amazon Bedrock y Google Vertex AI: Phaseo coloca hasta cuatro puntos de corte según scope (all_text, last_user_message, agent o none). Los demás proveedores lo ignoran. provider_options.anthropic.cache_control es el mismo ajuste y prevalece cuando se envían ambos.
En un bloque. Phaseo envía el punto de corte a las rutas de Claude, Alibaba Model Studio y Venice, lo convierte en prompt_cache_breakpoint para OpenAI y Azure OpenAI GPT-5.6 y posteriores, y lo elimina para los demás proveedores. El prompt_cache_breakpoint: {"mode": "explicit"} propio de OpenAI se acepta en los mismos bloques y prevalece cuando un bloque tiene ambos.
Usa type: "ephemeral" con un ttl de 5m (predeterminado) o 1h. Anthropic acepta como máximo cuatro puntos de corte por solicitud; si marcas más, Phaseo conserva el primero y los tres últimos. Consulta Caché de prompts.
prompt_cache_retention
Retención de la caché de prompts en los modelos de OpenAI y Azure OpenAI anteriores a GPT-5.6.
Tipo string · Valores in_memory, 24h
Phaseo solo lo envía a esos modelos, y solo los modelos que OpenAI indica aceptan 24h. GPT-5.6 y posteriores usan prompt_cache_options.ttl, y los demás proveedores no reciben el campo. También se acepta provider_options.openai.prompt_cache_retention; prevalece el valor de nivel superior.
Enrutamiento y ajustes del proveedor
provider
Restringe qué proveedores pueden atender la solicitud y cómo se clasifican. Se acepta routing como alias. Consulta Enrutamiento y fallbacks.
La coincidencia de
quantizations ignora mayúsculas, espacios, guiones y guiones bajos, y trata los nombres inequívocos como alias, como float8 y FP8, o bfloat16 y BF16. Las ofertas sin datos de cuantización se excluyen siempre que se establece el filtro. Si ninguna oferta coincide, la solicitud falla con un error que enumera las cuantizaciones solicitadas y las disponibles, en lugar de enrutar a otra variante.
provider_options
Ajustes nativos del proveedor que Phaseo transmite tal cual, agrupados por proveedor, mientras el resto de la solicitud usa el esquema común.
Tipo object
google.cached_content nombra una caché explícita de Gemini y solo funciona con tu propia credencial: una clave de API de Google en Google AI Studio o una credencial de Vertex AI en Vertex AI. En Vertex AI, Phaseo envía la solicitud al proyecto y la ubicación del nombre completo de la caché (projects/{project}/locations/{location}/cachedContents/{id}); un nombre corto usa el project_id y la region del JSON de tu cuenta de servicio. Con las credenciales de Phaseo, la solicitud devuelve 400. google.cache_control y google.cache_ttl se aceptan, pero no se envían a Google.
Usa preferentemente cache_control de nivel superior para Claude, prompt_cache_options para OpenAI GPT-5.6 y posteriores, y prompt_cache_retention para los modelos de OpenAI anteriores. Consulta Caché de prompts.
Extras de la respuesta y depuración
meta
Añade a la respuesta un objeto meta con detalles de enrutamiento, como meta.routing.dropped_params.
Tipo boolean · Predeterminado false
usage
Solicita la contabilidad de uso en el cuerpo de la respuesta, en lugar de depender de los encabezados o del panel.
Tipo boolean · Predeterminado sin establecer