1. Mit einem Vertrag für strukturierte Antworten beginnen
Die Antwortreparatur ist nur dann sinnvoll, wenn die Anfrage bereits eine strukturierte Ausgabe verlangt. Geeignete Fälle:response_format.type = "json_object"- Ausgabe im JSON-Schema-Format
- eine stabile Objektform, die mehrere Aufrufer verwenden
2. Das Plugin auf der passenden Ebene aktivieren
Du kannstresponse-healing an drei Stellen aktivieren:
- in der Standard-Plugin-Richtlinie des Arbeitsbereichs
- in der Plugin-Konfiguration einer Voreinstellung
- in
pluginsder Anfrage
- Arbeitsbereich
- Voreinstellung
- Anfrage
3. Die Modellausgabe eng begrenzen
Die Reparatur funktioniert am besten, wenn die gewünschte Ausgabeform bereits eingeschränkt ist. Empfehlungen:- ein Objekt statt mehrerer unabhängiger Blöcke
- explizite Pflichtfelder
- nach Möglichkeit eine deterministische Temperatur
- keine zusätzlichen Erläuterungen außerhalb der JSON-Nutzlast anfordern
4. Möglichkeiten und Grenzen der Antwortreparatur kennen
Der aktuelle Reparaturpfad ist deterministisch und funktioniert nur ohne Streaming. Bei Streaming-Anfragen wird die Antwortreparatur vollständig übersprungen. Er kann Folgendes korrigieren:- Markdown-Codeblöcke um das JSON
- nachgestellte Kommas
- fehlende, sicher ergänzbare Abschlüsse
- Schlüssel ohne Anführungszeichen in ansonsten wiederherstellbaren Objekten
strict-Modus. Er löst nur bereits gültiges JSON aus Codeblöcken oder umgebendem Text heraus und überspringt die umfangreicheren syntaktischen Reparaturen.
Wenn die Anfrage eine JSON-Schema-Ausgabe verwendet, validiert die Reparatur die wiederhergestellte Nutzlast zusätzlich, bevor sie sie umschreibt. Der aktuelle Validator deckt übliche Einschränkungen ab, darunter:
- Pflichtschlüssel
- grundlegende Skalare und Containertypen
- Enums und const-Werte
- Array-Grenzen und
uniqueItems - Zeichenkettenlänge, reguläre Ausdrücke und gängige Formate wie
email,uri,uuidunddate-time - Zahlengrenzen und
multipleOf - Objekt-Eigenschaftsgrenzen und
additionalProperties: false
- fehlende semantische Felder erfinden
- fachliche Werte erraten
- beliebige Prosa in gültige Daten umwandeln
5. Prüfen, ob das Plugin tatsächlich ausgeführt wurde
Wenn die Reparatur ausgeführt wird, sollten die Anfragedetails Informationen zur Plugin-Ausführung enthalten. Prüfe:- die Plugin-ID
- ob eine Transformation versucht wurde
- ob sich die Nutzlast geändert hat
- den Fehlergrund, wenn die Antwort nicht wiederhergestellt werden konnte
- ob die Anfrage ohne Streaming erfolgte, falls du eine Reparatur erwartet hast
6. Parserprobleme von Inhaltsproblemen unterscheiden
Wenn die Reparatur nicht hilft, bestimme die Art des Fehlers:- fehlerhaftes JSON, das strukturell noch nahe am erwarteten Format ist
- schemakonformes JSON mit falschen Feldern
- Prosa statt JSON
- abgeschnittene Ausgabe wegen eines zu niedrigen Tokenlimits
7. Schrittweise ausrollen
- aktiviere die Reparatur für eine Voreinstellung mit stabiler strukturierter Ausgabe
- beobachte die Ausführungsmetadaten des Plugins in den Protokollen
- bestätige, dass wiederhergestellte Nutzlasten dem erwarteten Schema entsprechen
- erweitere die Einstellung erst auf ähnliche Voreinstellungen, wenn die Protokolle unauffällig sind
8. Den passenden Modus wählen
- Verwende
safe, wenn der Workflow von begrenzter Syntaxbereinigung wie dem Entfernen nachgestellter Kommas oder dem Ergänzen von Anführungszeichen um Schlüssel profitiert. - Verwende
strict, wenn der Workflow nur bereits gültiges JSON nach dem Entfernen von umgebendem Text akzeptieren soll. - Prüfe die Anfragedetails, um den ausgeführten Modus zu bestätigen.