openai/<Phaseo model ID>, tu clave de Phaseo y api_base="https://api.phaseo.app/v1". Funciona tanto en llamadas directas a LiteLLM como con modelos detrás de un proxy de LiteLLM.
Instala
Llama a Phaseo desde LiteLLM
ok, la configuración funciona. LiteLLM usa el prefijo openai/ para los endpoints compatibles con OpenAI. El ID del modelo en Phaseo sigue siendo openai/gpt-6-astra, así que la cadena del modelo en LiteLLM queda como openai/openai/gpt-6-astra.
Añade modelos de Phaseo a un proxy de LiteLLM
Da a cada modelo un alias para que el código de la aplicación no necesite el prefijo de LiteLLM:model: "phaseo-gpt-6-astra". Los alias mantienen legibles los nombres de los modelos en producción.
Límites conocidos
- Algunas capas de proxy cambian o descartan los tipos de herramienta que no conocen. Si usas herramientas de servidor de Phaseo, prueba la ruta exacta de LiteLLM.
- Tanto LiteLLM como Phaseo registran el gasto. Decide cuál de los dos es tu registro de costes; los precios de Phaseo están en la calculadora de precios.