Inventorier la frontière de l’intégration
Notez chaque endroit où apparaît la passerelle actuelle, pour que la migration ne laisse pas un second chemin de configuration caché :- URL de base et variables d’environnement des clés API ;
- initialisation du SDK et en-têtes personnalisés ;
- identifiants de modèle et modèles de secours ;
- ordre des fournisseurs, listes d’autorisation et exigences de confidentialité ;
- code de streaming, d’appels d’outils et de sorties structurées ;
- tâches batch, fichiers, webhooks et interrogation de l’état des opérations asynchrones ;
- attribution des requêtes et métadonnées d’utilisateur ou de session.
Requêtes
Routage et règles
Exploitation
Non disponible
Ces fonctionnalités n’ont pas d’équivalent Phaseo. Gardez-les dans l’application ou sur l’ancienne plateforme :- Mise en cache des réponses. Phaseo ne met pas les réponses en cache. La mise en cache des prompts réduit tout de même le coût des entrées.
- Réponses et conversations stockées. Il n’existe ni
GETniDELETE /v1/responses/{id}. - Comptage des jetons (
/v1/messages/count_tokens). - Assistants, Threads, vector stores et fine-tuning d’OpenAI, ainsi que l’ancien
/v1/completions.
Classer chaque fonctionnalité
Attribuez un statut à chaque comportement de production, à l’aide des tableaux ci-dessus et du guide de votre plateforme d’origine :Valider sur votre propre trafic
La compatibilité de l’API ne garantit pas que ces éléments se comportent de la même façon :- sélection automatique du fournisseur et ordre des secours ;
- affinité du cache de prompts et tarification du cache ;
- champs de requête propres au fournisseur et métadonnées présentes uniquement dans la réponse ;
- limites de débit et délais de nouvelle tentative ;
- règles de conservation, de résidence et d’entraînement sur les données ;
- disponibilité et prix exacts des modèles.
- une requête normale pour chaque endpoint utilisé ;
- le streaming par le même chemin client qu’en production ;
- des appels d’outils et des sorties structurées avec des schémas réalistes ;
- chaque contrainte de fournisseur ou de confidentialité ;
- des clés invalides, des modèles invalides, des limites de débit et des échecs de fournisseur indisponible ;
- des tâches batch ou asynchrones en succès, en échec et en annulation.
GET /v1/generations?id=<request_id>.