openai/<Phaseo model ID>, sua chave do Phaseo e api_base="https://api.phaseo.app/v1". Isso funciona em chamadas diretas do LiteLLM e em modelos por trás de um proxy do LiteLLM.
Instale
Chame o Phaseo pelo LiteLLM
ok for impresso, a configuração funciona. O LiteLLM usa o prefixo openai/ para endpoints compatíveis com OpenAI. O ID do modelo no Phaseo continua sendo openai/gpt-6-astra, então a string de modelo do LiteLLM fica openai/openai/gpt-6-astra.
Adicione modelos do Phaseo a um proxy do LiteLLM
Dê um alias a cada modelo para que o código da aplicação não precise do prefixo do LiteLLM:model: "phaseo-gpt-6-astra". Os aliases mantêm os nomes dos modelos legíveis em produção.
Limitações conhecidas
- Algumas camadas de proxy alteram ou descartam tipos de ferramenta que não conhecem. Se você usa ferramentas de servidor do Phaseo, teste a rota exata do LiteLLM.
- O LiteLLM e o Phaseo registram os gastos. Decida qual deles é a sua fonte oficial de custos; os preços do Phaseo estão na calculadora de preços.