失敗したモデルリクエストを再試行する
0 です。各ステップは、何回試行したかをモデル試行回数のフィールド(modelAttempts、model_attempts、ModelAttempts)に記録します。再試行されるのはモデルリクエストだけです。ツールのエラーはツール自身のエラー時の方針に従うため、副作用のあるツールの再試行はツールの中に置き、冪等にしてください。
試行の間の待ち時間と、再試行されるエラーは言語によって異なります。
線形の待ち時間で backoff が 500 ms の場合、3回の再試行はそれぞれ 0.5 秒、1 秒、1.5 秒待ちます。
最終出力を検証する
モデルがツールを呼び出さずに回答すると、パーサーが最終テキストを値に変換し、スキーマがそれを確認します。どちらかが失敗すると、実行はInvalid agent output: ... エラーで失敗するため、不正な出力はエージェントの境界で止まります。バリデーターは決定的で、副作用のないものにしてください。
モデルの動作をより厳密にするには、Gateway にも構造化出力を求めます。Gateway エージェントクライアントに JSON Schema のレスポンス形式(必要に応じて response-healing プラグインも)を設定します。
response_format/responseFormat と plugins オプションを受け付けます。Go、C#、Java にはレスポンス形式のオプションがありません。その他のリクエストフィールド用のクライアントの抜け道(次のセクション)でフィールドを設定してください。
ルーティングのデフォルトをプリセットに置く
ルーティング、プロンプト、パラメーターのデフォルトをダッシュボードで管理したい場合は、エージェントにpreset(Go と C# では Preset)を設定します。
preset オプションがありません。
クライアントに Gateway のデフォルトを設定する
Gateway エージェントクライアント(createGatewayAgentClient()、create_gateway_agent_client()、CreateGatewayAgentClient)は、すべてのモデルターンに適用するリクエストのデフォルトを保持するため、実行のたびに作り直す必要はありません。model、input、instructions、関数ツールは引き続きエージェントが担当します。モデルのデフォルトは、エージェントがモデルを設定していない場合にだけ適用されます。
Java と Rust が受け付けるオプションは少なくなっています。
各フィールドの説明は Responses のパラメーターページにあります。結果から使用量、コスト、ステータスを読むには、オブザーバビリティを参照してください。