Passer au contenu principal
Pointez les clients qui appellent votre proxy LiteLLM vers https://api.phaseo.app/v1 avec une clé Phaseo, puis faites correspondre délibérément chaque alias model_name et chaque paramètre du proxy. Pour conserver LiteLLM et utiliser plutôt Phaseo comme service en amont, consultez Intégration LiteLLM.

Changer de client

Chaque alias doit correspondre explicitement à un identifiant de GET /v1/models?format=openai. Si les appelants utilisent des alias internes, traduisez-les dans une seule fonction à la frontière du client au lieu de modifier chaque requête.

Faire correspondre la configuration du proxy

Inventoriez les callbacks, les budgets et les nouvelles tentatives avant de retirer le proxy : ils s’arrêtent sans bruit lorsqu’il disparaît. Un proxy fait passer le trafic de toute une équipe par le propriétaire d’une seule clé ; il partage donc le quota de requêtes par minute de cet utilisateur, qui est de 10 pour un nouvel espace de travail. Consultez Limites de la passerelle et obtenez une limite plus élevée avant la bascule.

Tester et déployer

Testez le streaming, les outils, les sorties structurées, les nouvelles tentatives, la correspondance des erreurs et toute télémétrie pilotée par des callbacks que gérait le proxy. Comparez la latence, la sortie, l’utilisation des jetons et le coût avant de déplacer le trafic progressivement. Avant la bascule, vérifiez que :
  • chaque URL, clé et variable LITELLM_* de LiteLLM est identifiée ;
  • chaque alias de production a une correspondance Phaseo explicite ;
  • les valeurs par défaut partagées se trouvent dans des préréglages ou dans une seule fonction de frontière ;
  • les callbacks et la télémétrie nécessaires ont un remplaçant ;
  • vous avez décidé si LiteLLM, Phaseo ou les deux font foi pour les dépenses ;
  • le retour arrière se limite toujours à un changement d’URL de base et de clé.
Dernière modification le 7 novembre 2026