- des valeurs de routage par défaut définies dans un préréglage
- l’outil géré
phaseo:web_search - une analyse stricte des réponses
- des métadonnées au niveau de la requête pour le débogage
Objectif
- conserver le client dans le SDK officiel
- éviter de reconstruire manuellement des charges utiles de compatibilité brutes
- conserver suffisamment de métadonnées pour déboguer les résultats de recherche, le routage et le comportement des plugins
1. Commencer avec un client partagé
2. Définir d’abord les valeurs par défaut stables dans un préréglage
Créez un préréglage pour partager les éléments suivants entre plusieurs appelants :- la politique de modèles
- les préférences de fournisseur
- les valeurs par défaut du raisonnement
- le prompt système
- le comportement déterministe de mise en cache
3. Demander une réponse ancrée avec l’outil de recherche gérée
- le routage et les prompts par défaut gérés par le préréglage
- une recherche gérée par le serveur qui ne dépend pas de la prise en charge de la recherche native par le fournisseur
- une sortie structurée qui facilite l’analyse prévisible en aval
- les métadonnées nécessaires au débogage opérationnel
4. Analyser la sortie et conserver les champs de débogage
- quel fournisseur a réellement traité la requête
- si la recherche gérée s’est exécutée
- si la réparation de réponse s’est exécutée
- quelle requête examiner dans le tableau de bord
5. Vérifier les journaux de la requête ancrée
Ouvrez la requête dans Gateway -> Utilisation et examinez :- les résultats de recherche normalisés
- les citations
- la sélection du fournisseur
- les métadonnées d’exécution du plugin
6. Séparer les flux exploratoires des flux déterministes
Modèle recommandé :- un préréglage pour les résultats de recherche structurés et déterministes
- un autre préréglage pour les requêtes exploratoires ou utilisant une température plus élevée
- un cache de réponses plus propre
- un comportement de routage plus facile à comprendre
- les flux gourmands en recherche séparés du trafic de génération généraliste