Saltar al contenido principal
Consulta el tipo, los valores aceptados y el valor predeterminado de un campo de solicitud en Chat Completions (/v1/chat/completions), Responses (/v1/responses) y Anthropic Messages (/v1/messages). La compatibilidad sigue variando según el modelo y el proveedor: la tabla de inicio rápido de cada página de modelo muestra qué parámetros admiten sus proveedores activos en cada endpoint. Para consejos de ajuste, consulta Parámetros de inferencia.

Parámetros no admitidos

Si el proveedor que atiende una solicitud no admite uno de sus parámetros de muestreo opcionales, Phaseo descarta ese parámetro: no se envía al proveedor y la solicitud no se rechaza, así que los clientes que siempre envían los valores predeterminados de OpenAI siguen funcionando. Phaseo decide por proveedor, primero a partir de su perfil de proveedor y después según los parámetros de catálogo de la ruta. Si una ruta no declara parámetros, solo se omite la comprobación del catálogo; los parámetros que el perfil del proveedor marca como no admitidos se siguen descartando, como top_k en Cohere o stop en Reflection. Un ttl de caché de prompts de 12h también se elimina en las rutas que no admiten la caché de 12 horas de OpenAI, y se informa como prompt_cache_options.ttl o prompt_cache_breakpoint.ttl; consulta Caché de prompts. Las respuestas correctas enumeran los parámetros descartados que envió el cuerpo de la solicitud:
  • en el encabezado X-Phaseo-Dropped-Params, como X-Phaseo-Dropped-Params: top_k, min_p;
  • en meta.routing.dropped_params cuando la solicitud establece meta: true, como [{"param": "top_k", "reason": "unsupported_by_provider"}].
Un parámetro que procede de un preset o de un valor predeterminado, y no del cuerpo de la solicitud, puede descartarse sin aparecer en ninguno de los dos sitios. Aun así, queda registrado en los diagnósticos de enrutamiento guardados con la solicitud.

Elige el modelo

model

El ID de modelo de Phaseo que se ejecuta, como openai/gpt-6-astra. Obligatorio. Usa el ID que aparece en el inicio rápido de la página del modelo; es la opción más segura para automatizaciones e integraciones de larga duración. Aquí también funciona el nombre de un preset, como @support-triage.

models

Modelos de fallback, que se prueban en orden después de model. model sigue siendo obligatorio y siempre se ejecuta primero. La siguiente entrada solo se prueba cuando un intento falla con 429, 500, 502, 503 o 504. Tipo string[] · Entradas de 1 a 25; se ignoran los duplicados y las entradas iguales a model · Ejemplo ["anthropic/claude-sonnet-5.5", "google/gemini-4-argon"]
  • Cada intento se valida, se registra y se factura como una solicitud independiente. El campo model de la respuesta y la traza de enrutamiento muestran el modelo que respondió.
  • Las solicitudes con streaming solo recurren al fallback antes del primer byte; los trabajos de vídeo y música, solo en el envío.
  • Los fallbacks de una ruta dinámica asociada tienen prioridad. Se aceptan presets como entradas. phaseo/auto no se puede combinar con models.
  • Las solicitudes por lotes, en tiempo real y de consejo rechazan models con 400.
  • Los endpoints multipart aceptan campos models repetidos, campos models[] o un único array JSON.
Consulta Fallbacks de modelo a nivel de solicitud.

stream

Devuelve la salida mediante Server-Sent Events a medida que se genera, en lugar de un único cuerpo de respuesta. Tipo boolean · Predeterminado false Úsalo para interfaces de chat y respuestas largas. Déjalo desactivado cuando quieras una única respuesta JSON, más fácil de reintentar y analizar. Las llamadas a herramientas y la salida estructurada pueden transmitirse de forma distinta según el proveedor. Consulta Streaming.

Muestreo

temperature

El grado de aleatoriedad en la selección de tokens. Los valores bajos dan una salida más conservadora y repetible; los altos dan más variedad, pero menos coherencia y menor ajuste al esquema. Tipo number · Rango 0–2 en Chat Completions y Responses, 0–1 en Messages · Predeterminado el del proveedor (Phaseo no envía nada si no se establece) Empieza con 0.2–0.7, y con valores bajos para extracción, clasificación y JSON. Ajusta temperature o top_p, no ambos a la vez. Una temperatura alta en un modelo muy cuantizado puede hacer que la salida sea inestable.

top_p

Muestreo de núcleo: el modelo elige entre el conjunto más pequeño de tokens cuya probabilidad combinada alcanza top_p. Los valores bajos dan una salida más acotada y enfocada. Tipo number · Rango 0–1 · Predeterminado el del proveedor 0.9–1.0 con una temperature moderada es un buen punto de partida.

top_k

Limita el muestreo a los k tokens más probables en cada paso. Los valores bajos hacen que la salida sea más predecible. No todos los proveedores lo admiten. Tipo integer · Rango -1 o más en Chat Completions, 0 o más en Messages · Predeterminado el del proveedor

min_p

Acota el muestreo descartando los tokens por debajo de un umbral mínimo de probabilidad. Tipo number · Rango 0–1 · Predeterminado el del proveedor

frequency_penalty

Penaliza los tokens en proporción a cuántas veces han aparecido ya. Auméntalo cuando el modelo entre en bucle o repita frases. Tipo number · Rango -2–2 · Predeterminado el del proveedor, normalmente 0

presence_penalty

Penaliza cualquier token que ya haya aparecido, lo que empuja al modelo hacia temas y formulaciones nuevos. Tipo number · Rango -2–2 · Predeterminado el del proveedor, normalmente 0

repetition_penalty

Un control de repetición específico del proveedor, independiente de las dos penalizaciones anteriores. Su efecto exacto varía más según el proveedor. Tipo number · Rango más de 0; los proveedores suelen aceptar hasta 2 · Predeterminado el del proveedor

logit_bias

Hace que tokens concretos sean más o menos probables. Las claves son IDs de token del tokenizador del modelo; los valores son el sesgo que se suma. Tipo object (de ID de token a número) · Predeterminado sin establecer

seed

Solicita un muestreo con semilla, para depuración y pruebas de regresión. No se garantiza una salida idéntica entre proveedores ni tras cambios en la infraestructura del proveedor. Tipo integer · Predeterminado sin establecer

Longitud de la salida y parada

max_tokens

Limita los tokens de salida en Chat Completions y es obligatorio en Messages. Úsalo para controlar el coste y la latencia; un valor demasiado pequeño corta la salida. Tipo integer · Rango 1 o más (0 o más en Messages) · Predeterminado el del proveedor en Chat Completions

max_output_tokens

Limita los tokens de salida en Responses. Tiene el mismo propósito que max_tokens; envía el nombre que usa tu endpoint. Tipo integer · Rango 1 o más · Predeterminado el del proveedor

max_completion_tokens

Limita los tokens de salida en Chat Completions; es el nombre más reciente de OpenAI para max_tokens. No mezcles los dos en una misma solicitud. Tipo integer · Rango 1 o más · Predeterminado el del proveedor

stop

Una o varias secuencias que terminan la generación, como el final de una plantilla o un marcador de protocolo. En Messages el campo es stop_sequences y acepta un array. Tipo string o string[] · Predeterminado sin establecer

Probabilidades de los tokens

logprobs

Devuelve la probabilidad logarítmica de cada token de salida, para evaluación, clasificación y puntuación de confianza. Tipo boolean · Predeterminado false

top_logprobs

Devuelve los tokens alternativos más probables en cada posición, con sus probabilidades logarítmicas. Necesita logprobs: true. Tipo integer · Rango 0–20

Herramientas

tools

Las herramientas que el modelo puede llamar. Usa el esquema de herramientas de OpenAI salvo que la referencia del endpoint indique otra cosa; Messages usa el de Anthropic. Declarar una herramienta no obliga al modelo a llamarla. Tipo array · Predeterminado sin establecer

tool_choice

Si el modelo puede llamar a herramientas: none para solo texto, auto para que el modelo decida, required para forzar una llamada, o un objeto que nombra una herramienta. Tipo string u object

parallel_tool_calls

Permite varias llamadas a herramientas en un turno. Configúralo como false cuando tus herramientas deban ejecutarse de una en una, por ejemplo cuando tienen efectos secundarios ordenados. Tipo boolean · Predeterminado el del proveedor (Phaseo no envía nada si no se establece)

max_tool_calls

Limita cuántas llamadas a herramientas hace el modelo en la solicitud. Tipo integer · Rango 1 o más · Predeterminado sin establecer

Salida estructurada

response_format

Pide texto sin formato, JSON o una salida que cumpla un esquema JSON. Las formas aceptadas dependen del endpoint y del proveedor. Tipo string u object · Predeterminado el del endpoint y el proveedor

json_schema

El esquema JSON que debe cumplir la salida, definido dentro de response_format ({"type": "json_schema", "json_schema": {...}}). Mantén los esquemas acotados y específicos de la tarea para que se cumplan mejor. Tipo object

structured_outputs

No es un campo de solicitud. En una página de modelo, marca los endpoints cuyos proveedores activos admiten salida restringida por un esquema. Solicítala con response_format.

Razonamiento

reasoning

Configura el razonamiento en los modelos que lo admiten. Los campos sin establecer mantienen el valor predeterminado del modelo. Un esfuerzo mayor ayuda en problemas difíciles y cuesta más latencia y tokens.

reasoning_effort

La forma abreviada de reasoning.effort en Chat Completions. Tipo string · Valores none, instant, minimal, low, medium, high, xhigh, max · Predeterminado el del modelo

reasoning_tokens

No es un campo de solicitud. En una página de modelo, marca las rutas que informan de tokens de razonamiento o aceptan un presupuesto de razonamiento. Define el presupuesto con reasoning.max_tokens.

include_reasoning

Se acepta en Chat Completions por compatibilidad y no tiene efecto: el contenido y los resúmenes de razonamiento se devuelven siempre que el modelo los produce. La salida de razonamiento puede ser grande y no todos los modelos la devuelven. Para reducirla, baja reasoning.effort o configura reasoning.enabled como false. Tipo boolean

Nivel de servicio y caché de prompts

service_tier

Elige un nivel de velocidad y precio en Chat Completions, Responses y Messages, cuando el modelo y el proveedor lo admiten. Phaseo asigna cada valor al control propio del proveedor. Tipo string · Predeterminado standard batch no es un nivel y se rechaza; usa la API de lotes. Con un SDK oficial de Anthropic apuntando a Phaseo, usa preferentemente auto y standard_only de Anthropic en /v1/messages; para ultrafast, priority, flex o fast, usa HTTP directo o Chat Completions y Responses. Consulta Niveles de servicio.

prompt_cache_key

Mantiene las solicitudes que comparten un prefijo de prompt, como los pasos de un bucle de agente, en el proveedor que guarda su caché. Tipo string · Predeterminado sin establecer · Endpoints Chat Completions, Responses, Messages Phaseo fija la clave al proveedor y a la ruta (despliegue o región) que atendió la primera solicitud correcta, y mantiene ahí las solicitudes posteriores con la misma clave hasta que ese proveedor falla, se agota la cuota gestionada de Phaseo en él o tu política de enrutamiento deja de permitirlo. Las fijaciones son por espacio de trabajo y duran lo mismo que la retención de caché del proveedor. Consulta Afinidad de proveedor. Phaseo envía al proveedor un hash del ID de tu espacio de trabajo y de la clave, nunca la clave sin procesar, así que dos espacios de trabajo que eligen la misma clave no comparten la caché de un proveedor. Las respuestas devuelven la clave que enviaste. Los proveedores cuya API rechaza el campo no lo reciben, y enviarlo nunca excluye a un proveedor del enrutamiento. Sin clave, Phaseo deduce la afinidad a partir de la solicitud, pero una clave explícita funciona mejor para conversaciones largas y sesiones de agente.

prompt_cache_options

Modo y duración de la caché de prompts para OpenAI y Azure OpenAI GPT-5.6 y posteriores (incluido GPT-6 Astra), DeepInfra y Moonshot AI. Tipo object · Campos mode (implicit o explicit), ttl Usa {"mode": "explicit", "ttl": "30m"} para que OpenAI solo guarde en caché los puntos de corte que colocas. Una duración que la ruta no admite, como 12h en Azure OpenAI o 1h en un modelo de Moonshot AI sin precio de 1 hora, se elimina y aparece en X-Phaseo-Dropped-Params. Ningún otro proveedor, ni los modelos de OpenAI anteriores a GPT-5.6, recibe prompt_cache_options; esos modelos de OpenAI usan prompt_cache_retention. También se acepta provider_options.openai.prompt_cache_options; prevalece el valor de nivel superior.

cache_control

En el nivel superior, define una política de caché de prompts de Claude. En un bloque de contenido, una definición de herramienta o un resultado de herramienta, marca un punto de corte de caché. Tipo object · Campos type, ttl, scope Nivel superior. Se acepta en Chat Completions, Responses y Messages. Se aplica a Claude en Anthropic, Claude en AWS, Amazon Bedrock y Google Vertex AI: Phaseo coloca hasta cuatro puntos de corte según scope (all_text, last_user_message, agent o none). Los demás proveedores lo ignoran. provider_options.anthropic.cache_control es el mismo ajuste y prevalece cuando se envían ambos. En un bloque. Phaseo envía el punto de corte a las rutas de Claude, Alibaba Model Studio y Venice, lo convierte en prompt_cache_breakpoint para OpenAI y Azure OpenAI GPT-5.6 y posteriores, y lo elimina para los demás proveedores. El prompt_cache_breakpoint: {"mode": "explicit"} propio de OpenAI se acepta en los mismos bloques y prevalece cuando un bloque tiene ambos. Usa type: "ephemeral" con un ttl de 5m (predeterminado) o 1h. Anthropic acepta como máximo cuatro puntos de corte por solicitud; si marcas más, Phaseo conserva el primero y los tres últimos. Consulta Caché de prompts.

prompt_cache_retention

Retención de la caché de prompts en los modelos de OpenAI y Azure OpenAI anteriores a GPT-5.6. Tipo string · Valores in_memory, 24h Phaseo solo lo envía a esos modelos, y solo los modelos que OpenAI indica aceptan 24h. GPT-5.6 y posteriores usan prompt_cache_options.ttl, y los demás proveedores no reciben el campo. También se acepta provider_options.openai.prompt_cache_retention; prevalece el valor de nivel superior.

Enrutamiento y ajustes del proveedor

provider

Restringe qué proveedores pueden atender la solicitud y cómo se clasifican. Se acepta routing como alias. Consulta Enrutamiento y fallbacks. La coincidencia de quantizations ignora mayúsculas, espacios, guiones y guiones bajos, y trata los nombres inequívocos como alias, como float8 y FP8, o bfloat16 y BF16. Las ofertas sin datos de cuantización se excluyen siempre que se establece el filtro. Si ninguna oferta coincide, la solicitud falla con un error que enumera las cuantizaciones solicitadas y las disponibles, en lugar de enrutar a otra variante.

provider_options

Ajustes nativos del proveedor que Phaseo transmite tal cual, agrupados por proveedor, mientras el resto de la solicitud usa el esquema común. Tipo object google.cached_content nombra una caché explícita de Gemini y solo funciona con tu propia credencial: una clave de API de Google en Google AI Studio o una credencial de Vertex AI en Vertex AI. En Vertex AI, Phaseo envía la solicitud al proyecto y la ubicación del nombre completo de la caché (projects/{project}/locations/{location}/cachedContents/{id}); un nombre corto usa el project_id y la region del JSON de tu cuenta de servicio. Con las credenciales de Phaseo, la solicitud devuelve 400. google.cache_control y google.cache_ttl se aceptan, pero no se envían a Google. Usa preferentemente cache_control de nivel superior para Claude, prompt_cache_options para OpenAI GPT-5.6 y posteriores, y prompt_cache_retention para los modelos de OpenAI anteriores. Consulta Caché de prompts.

Extras de la respuesta y depuración

meta

Añade a la respuesta un objeto meta con detalles de enrutamiento, como meta.routing.dropped_params. Tipo boolean · Predeterminado false

usage

Solicita la contabilidad de uso en el cuerpo de la respuesta, en lugar de depender de los encabezados o del panel. Tipo boolean · Predeterminado sin establecer

debug

Devuelve trazas de enrutamiento y payloads del proveedor. La salida de depuración puede contener el contenido de tu solicitud, así que úsala solo en desarrollo o en entornos muy controlados. Consulta Depura una solicitud.

Ejemplo de solicitud

Última modificación el 5 de noviembre de 2026