mistral/mistral-small-4 に変更し、ルートごとに推論をオンにするかどうかを決めます。Mistral Small 4 にはオフと high の 2 つの推論モードがあり、Phaseo はすべての effort の値をそのどちらかに対応付けます。
推論をオンまたはオフにする
リクエストで求めない限り、推論はオフです。Mistral 自身の API に対して、Phaseo はreasoning_effort を次のように送ります。
リクエスト内のフラットな
reasoning_effort は reasoning.effort より優先されます。軽量なルートには none を、深い推論には high を使います。low と medium は high とまったく同じ動作です。
回答と推論を読み取る
Mistral は、thinking の後に text が続くような混在したコンテンツブロックを返すことがあります。Phaseo はこれらを OpenAI 形式のフィールドに分割するため、Chat Completions を読む下流のコードはそのまま動作します。
- 回答は
choices[0].message.contentにあります。 - 推論のテキストは
choices[0].message.reasoning_contentとreasoning_detailsにあります。
展開する
- モデル ID を Mistral Small 3.2 から
mistral/mistral-small-4に変更します。 noneとhighのみで推論をテストします。highを使うルートで、出力の品質とスキーマのテストを再実行します。- 完全に切り替える前に、
noneとhighのレイテンシーとコストを比較します。