openai/.
Troque o cliente
Crie uma chave em Chaves de API e adicione-a a todos os ambientes que executam o app. Depois passe a chave e a URL base ao cliente existente:OPENAI_API_KEY, e remova valores antigos de OPENAI_BASE_URL para que nenhum outro cliente do repositório continue chamando a OpenAI. Clientes AzureOpenAI passam para o cliente OpenAI simples; os nomes de implantação do Azure são mapeados para IDs de modelo do Phaseo da mesma forma.
Mapeie os IDs de modelo
Liste os IDs que o Phaseo atende no formato de lista da OpenAI e confira cada modelo de produção emdata[].id:
format=openai, a resposta é a lista paginada models do Phaseo, sem array data. O mesmo vale para client.models.list(): passe { query: { format: "openai" } } no Node ou extra_query={"format": "openai"} no Python. A lista padrão contém apenas os modelos que você pode chamar agora; adicione availability=all para incluir os inativos e os que estão por vir.
O que funciona de forma diferente
Teste e faça o rollout
Execute os mesmos prompts representativos na configuração antiga e na nova e compare o formato da saída, a latência, o uso de tokens, os erros e o custo. Antes de mover o tráfego, confirme que:- a chave do Phaseo está definida em desenvolvimento, staging e produção;
- cada ID de modelo de produção aparece em
GET /v1/models?format=openai; - uma solicitação sem streaming e uma com streaming passam em staging, além de chamadas de ferramentas e saídas estruturadas, se o app as usa;
- o rollback ainda é só uma troca de URL base e chave.