Passer au contenu principal
Changez l’URL de base et la clé, conservez les charges utiles des requêtes et faites correspondre chaque identifiant de modèle : le préfixe de LLM Gateway désigne le fournisseur qui sert le modèle, tandis que celui de Phaseo désigne le créateur du modèle.

Changer de client

Faites correspondre ou supprimez chaque variable LLM_GATEWAY_*, y compris dans la CI et les paramètres d’hébergement. Si l’application utilise @llmgateway/ai-sdk-provider, passez à @phaseo/ai-sdk-provider comme dans Migrer depuis Vercel AI Gateway.

Faire correspondre les identifiants de modèle

Listez les identifiants Phaseo et vérifiez chaque modèle de production par rapport à cette liste :
alibaba/<model> sur LLM Gateway n’est pas un identifiant Phaseo. Faites correspondre chaque identifiant au format <org>/<model> de Phaseo, et conservez un épinglage de fournisseur avec provider.only ou un identifiant provider:org/model. Traduisez les alias sans préfixe comme gpt-4o dans une seule fonction à la frontière du client plutôt qu’à chaque point d’appel.

Faire correspondre les fonctionnalités de la passerelle

Tester et déployer

Exécutez vos prompts de référence sur les deux passerelles et comparez la qualité, la latence et le coût. Vérifiez d’abord les endpoints :
Avant de déplacer le trafic, vérifiez que :
  • PHASEO_API_KEY est défini dans chaque environnement ;
  • chaque identifiant de modèle de production est mis en correspondance et listé ;
  • une requête sans streaming et une requête en streaming passent en préproduction ;
  • les erreurs de clé invalide et de modèle invalide sont gérées ; leurs corps peuvent différer de ceux de LLM Gateway ;
  • une requête de préproduction en échec peut être récupérée depuis GET /v1/generations ;
  • les valeurs par défaut partagées de prompt et de routage se trouvent dans des préréglages, là où elles ont leur place.
Publiez derrière un drapeau canary, passez d’une petite part du trafic à la totalité une fois la situation stable, et surveillez les métriques de production pendant au moins un cycle de publication avant de supprimer l’ancienne configuration.
Dernière modification le 7 novembre 2026