Ce qui change
1
Inventoriez la configuration actuelle de la passerelle
Notez l’URL Cloudflare Gateway, les routes des fournisseurs, les en-têtes personnalisés, les règles de cache, les nouvelles tentatives et les analyses dont dépend votre application. Vous pourrez ainsi distinguer les comportements nécessaires des paramètres qu’il n’est plus utile de transférer.
2
Remplacez le point de terminaison et les identifiants
Dans la mesure du possible, conservez le contenu des requêtes et mettez à jour le client compatible avec OpenAI pour utiliser la nouvelle passerelle.
3
Recréez le routage et les valeurs par défaut partagées
Déplacez les restrictions stables de fournisseur, les valeurs par défaut des prompts et les paramètres de génération vers les préréglages. Configurez le classement des fournisseurs et les solutions de repli avec le routage et les solutions de repli.Les paramètres de cache et d’analyse Cloudflare ne sont pas transférés automatiquement. Décidez explicitement si chaque comportement doit être géré par Phaseo, votre application ou votre couche edge.
4
Validez avant le basculement
Selon votre cas, testez les réponses sans streaming, le streaming, les erreurs, les outils et les sorties structurées. Comparez la latence, les réponses, l’utilisation des jetons et le coût avant de transférer progressivement le trafic.
Liste de contrôle de la migration
- Les URL et en-têtes propres à Cloudflare Gateway ont été supprimés.
- Les identifiants des modèles de production ont été vérifiés avec
GET /v1/models. - Le comportement de cache nécessaire a été recréé ou abandonné volontairement.
- L’activité et les détails des requêtes fournissent la visibilité dont votre équipe a besoin.
- Le retour arrière se limite toujours à modifier le point de terminaison et la clé.