openai/.
Changer de client
Créez une clé dans Clés API, et ajoutez-la à chaque environnement qui exécute l’application. Passez-la ensuite, avec l’URL de base, au client existant :OPENAI_API_KEY, et supprimez les valeurs OPENAI_BASE_URL obsolètes pour qu’aucun autre client du dépôt ne continue d’appeler OpenAI. Les clients AzureOpenAI passent au client OpenAI standard ; les noms de déploiement Azure correspondent aux identifiants de modèle Phaseo de la même manière.
Faire correspondre les identifiants de modèle
Listez les identifiants servis par Phaseo au format de liste d’OpenAI et vérifiez chaque modèle de production dansdata[].id :
format=openai, la réponse est la liste paginée models de Phaseo et ne contient pas de tableau data. Il en va de même pour client.models.list() : passez { query: { format: "openai" } } en Node ou extra_query={"format": "openai"} en Python. La liste par défaut ne contient que les modèles que vous pouvez appeler maintenant ; ajoutez availability=all pour inclure les modèles inactifs et à venir.
Ce qui fonctionne différemment
Tester et déployer
Exécutez les mêmes prompts représentatifs avec l’ancienne et la nouvelle configuration, et comparez le format de sortie, la latence, l’utilisation des jetons, les erreurs et le coût. Avant de déplacer le trafic, vérifiez que :- la clé Phaseo est définie en développement, en préproduction et en production ;
- chaque identifiant de modèle de production apparaît dans
GET /v1/models?format=openai; - une requête sans streaming et une requête en streaming passent en préproduction, ainsi que les appels d’outils et les sorties structurées si l’application les utilise ;
- le retour arrière se limite toujours à un changement d’URL de base et de clé.