Checkliste
- Halte Schemas klein und eindeutig. Weniger, typisierte Felder lassen dem Modell weniger Raum, etwas Unerwartetes zu senden.
- Validiere geparste Argumente vor der Ausführung, wie oben.
- Lehne unbekannte Tool-Namen ab, statt zu raten, was das Modell gemeint hat.
- Füge Timeouts und Wiederholungsversuche zu Aufrufen hinzu, die externe Systeme erreichen.
- Protokolliere die Aufruf-ID, den Tool-Namen und jeden Validierungsfehler.
Wenn die Validierung fehlschlägt
Führe das Tool nicht aus. Sende im nächsten Durchgang einen kurzen, kontrollierten Fehler als Tool-Ergebnis und bitte das Modell, es mit korrigierten Argumenten erneut zu versuchen.Streaming
Mitstream: true kommen die Argumente in Teilen an. Sammle alle Argument-Deltas eines Aufrufs, bevor du ihn parst, validierst oder ausführst. Ob Tool-Aufrufe überhaupt gestreamt werden, hängt vom Modell und vom Anbieter ab. Siehe Streaming.