response-healing プラグインを追加すると、Markdown のコードフェンスに囲まれた JSON や末尾にカンマが付いた JSON など、ほぼ有効な JSON を、パーサーに届く前に Phaseo が修復します。完成すると、JSON Schema を要求し、必要に応じて回答を修復し、修復したかどうかをレスポンスで知らせるリクエストが 1 つできます。
このリクエストは本番環境で使えます。修復は構文だけを直すため、結果を検証するのように、コード側での結果の検証は引き続き必要です。
修復付きのリクエストを送る
text.format ではなく response_format で送ります。修復はリクエストが json_object または json_schema を要求している場合にだけ実行され、ストリームでは実行されません。ストリーミングのリクエストは streaming_unsupported でスキップされます。
実行されたことを確認する
meta: true を指定すると、プラグインが実行された場合に meta.plugin_executions に一覧表示されます。
同じ記録は 設定 → 使用量 → ログ のリクエストにも表示されます。プラグインがまったく表示されない場合は、リクエスト、そのプリセット、またはワークスペースで実際に有効になっているかを確認してください。設定場所はプラグインの既定値を設定するで説明しています。
モードを選ぶ
JSON Schema がある場合、修復した結果は回答を置き換える前に次の点が確認されます。必須キー、型、
enum と const、配列の範囲と uniqueItems、文字列の長さ、pattern と email・uri・uuid・date-time の形式、数値の範囲と multipleOf、プロパティ数、additionalProperties: false です。
役に立たない場合を知る
修復は、足りないフィールドを作り出したり、値を推測したり、文章をデータに変換したりすることはありません。使う前に、次の失敗を見分けてください。
修復は、必須キーが明示された 1 つのオブジェクト、低い temperature、JSON 以外のテキストを要求しない場合に最も効果を発揮します。まず 1 つのプリセットで有効にし、ログで
plugin_executions を確認して、修復されたペイロードがスキーマに一致するようになったら適用範囲を広げてください。