openai/<Phaseo model ID>, votre clé Phaseo et api_base="https://api.phaseo.app/v1". Cela fonctionne pour les appels LiteLLM directs comme pour les modèles placés derrière un proxy LiteLLM.
Installer
Appeler Phaseo depuis LiteLLM
ok s’affiche, la configuration fonctionne. LiteLLM utilise le préfixe openai/ pour les endpoints compatibles avec OpenAI. L’ID du modèle Phaseo reste openai/gpt-6-astra ; la chaîne de modèle LiteLLM devient donc openai/openai/gpt-6-astra.
Ajouter des modèles Phaseo à un proxy LiteLLM
Donnez un alias à chaque modèle pour que le code de l’application n’ait pas besoin du préfixe LiteLLM :model: "phaseo-gpt-6-astra". Les alias gardent des noms de modèle lisibles en production.
Limites connues
- Certaines couches de proxy modifient ou suppriment les types d’outils qu’elles ne connaissent pas. Si vous utilisez les outils serveur de Phaseo, testez la route LiteLLM exacte.
- LiteLLM et Phaseo suivent tous deux les dépenses. Choisissez lequel fait référence pour les coûts ; les prix de Phaseo figurent dans le calculateur de prix.