Lista de verificação
- Mantenha os schemas pequenos e explícitos. Menos campos, e tipados, dão ao modelo menos espaço para enviar algo inesperado.
- Valide os argumentos interpretados antes da execução, como acima.
- Rejeite nomes de ferramenta desconhecidos em vez de adivinhar o que o modelo quis dizer.
- Adicione timeouts e novas tentativas às chamadas que acessam sistemas externos.
- Registre o ID da chamada, o nome da ferramenta e qualquer falha de validação.
Quando a validação falha
Não execute a ferramenta. Envie um erro curto e controlado como resultado da ferramenta no turno seguinte e peça ao modelo que tente de novo com os argumentos corrigidos.Streaming
Comstream: true, os argumentos chegam em partes. Junte todos os deltas de argumentos de uma chamada antes de interpretá-la, validá-la ou executá-la. Se as chamadas de ferramenta são transmitidas ou não depende do modelo e do provedor. Veja Transmissão.