openai/.
Cambia el cliente
Crea una clave en Claves de API y añádela a cada entorno donde se ejecute la aplicación. Después pásala, junto con la URL base, al cliente existente:OPENAI_API_KEY, y elimina los valores antiguos de OPENAI_BASE_URL para que ningún otro cliente del repositorio siga llamando a OpenAI. Los clientes AzureOpenAI pasan al cliente OpenAI normal; los nombres de despliegue de Azure se asignan a ID de modelo de Phaseo de la misma forma.
Asigna los ID de modelos
Lista los ID que sirve Phaseo en el formato de lista de OpenAI y comprueba cada modelo de producción condata[].id:
format=openai, la respuesta es la lista paginada models de Phaseo y no tiene matriz data. Lo mismo ocurre con client.models.list(): pasa { query: { format: "openai" } } en Node o extra_query={"format": "openai"} en Python. La lista predeterminada solo contiene los modelos que puedes llamar ahora; añade availability=all para incluir los inactivos y los que llegarán pronto.
Qué funciona de otra forma
Prueba y despliega
Ejecuta los mismos prompts representativos con la configuración antigua y la nueva y compara estructura de la salida, latencia, uso de tokens, errores y coste. Antes de mover tráfico, comprueba que:- la clave de Phaseo está definida en desarrollo, staging y producción;
- cada ID de modelo de producción aparece en
GET /v1/models?format=openai; - una solicitud sin streaming y otra con streaming funcionan en staging, además de las llamadas a herramientas y las salidas estructuradas si la aplicación las usa;
- la reversión sigue siendo solo un cambio de URL base y clave.