"model": "@release-summary" を送り、{"summary": ..., "risk_level": ...} を受け取り、そのリクエストのプロバイダーとプラグインの詳細を表示するスクリプトが 1 つできます。
このスクリプトは、プリセットとスキーマを自分のものに置き換えれば本番環境で使えます。検証の手順は残してください。修復が直すのは構文であり、内容ではありません。
作成する
1
プリセットを作成する
設定 → プリセット で、すべての呼び出し元が共有するシステムプロンプト、モデルまたは許可するモデル、プロバイダーの優先設定、推論の設定、
temperature を持つ release-summary を作成します。こうすると、Python のコードは変化する部分だけを送ればよくなります。プリセットがリクエストとどう統合されるかはプリセットで説明しています。2
SDK をインストールする
3
スクリプトを書く
release_summary.py
4
実行する
動作を確認する
スクリプトは、レスポンス ID、応答したモデルとプロバイダー、プラグインの記録、そしてsummary と low・medium・high のいずれかを持つ dict を表示します。設定 → 使用量 → ログ でレスポンス ID を検索すると、同じリクエストをルーティングの詳細とともに確認できます。
プリセットで許可されていないモデルは、validation_error(キーワード preset_model_not_allowed)で失敗します。validate() からの ValueError は、JSON は解析できたものの内容が誤っていたことを意味します。再試行を追加するのではなく、スキーマやプロンプトを厳しくしてください。