Liste de contrôle
- Gardez des schémas petits et explicites. Des champs moins nombreux et typés laissent au modèle moins de marge pour envoyer quelque chose d’inattendu.
- Validez les arguments analysés avant l’exécution, comme ci-dessus.
- Rejetez les noms d’outils inconnus au lieu de deviner ce que le modèle voulait dire.
- Ajoutez des délais d’attente et des nouvelles tentatives aux appels qui atteignent des systèmes externes.
- Journalisez l’ID d’appel, le nom de l’outil et tout échec de validation.
Quand la validation échoue
N’exécutez pas l’outil. Envoyez une erreur courte et maîtrisée comme résultat de l’outil au tour suivant, et demandez au modèle de réessayer avec des arguments corrigés.Streaming
Avecstream: true, les arguments arrivent par morceaux. Rassemblez tous les fragments d’arguments d’un appel avant de l’analyser, de le valider ou de l’exécuter. Le fait que les appels d’outils soient diffusés ou non dépend du modèle et du fournisseur. Consultez Diffusion en continu.