mistral/mistral-small-4 und entscheide pro Route, ob Reasoning aktiv ist. Mistral Small 4 hat zwei Reasoning-Modi, aus und hoch, und Phaseo ordnet jeden Effort-Wert einem davon zu.
Reasoning ein- oder ausschalten
Reasoning ist aus, solange die Anfrage es nicht verlangt. Über die eigene API von Mistral sendet Phaseoreasoning_effort wie folgt:
Ein flaches
reasoning_effort in der Anfrage hat Vorrang vor reasoning.effort. Verwende none für leichte Routen und high für tiefes Reasoning; low und medium verhalten sich genau wie high.
Antwort und Reasoning lesen
Mistral kann gemischte Inhaltsblöcke zurückgeben, etwathinking gefolgt von text. Phaseo teilt sie in Felder im OpenAI-Stil auf, sodass nachgelagerter Code, der Chat Completions liest, weiter funktioniert:
- die Antwort steht in
choices[0].message.content; - der Reasoning-Text steht in
choices[0].message.reasoning_contentundreasoning_details.
Umstellen
- Ändere die Modell-ID von Mistral Small 3.2 in
mistral/mistral-small-4. - Teste Reasoning nur mit
noneundhigh. - Führe Tests zu Ausgabequalität und Schema auf den Routen, die
highverwenden, erneut aus. - Vergleiche Latenz und Kosten für
noneundhighvor der vollständigen Umstellung.