mistral/mistral-small-4 में बदलें और हर रूट के लिए तय करें कि रीज़निंग चालू रहे या नहीं। Mistral Small 4 में दो रीज़निंग मोड हैं, बंद और high, और Phaseo हर effort मान को इनमें से एक पर मैप करता है।
रीज़निंग चालू या बंद करें
जब तक अनुरोध न मांगे, रीज़निंग बंद रहती है। Mistral के अपने API पर, Phaseoreasoning_effort इस तरह भेजता है:
अनुरोध में फ़्लैट
reasoning_effort को reasoning.effort पर प्राथमिकता मिलती है। हल्के रूट के लिए none और गहरी रीज़निंग के लिए high उपयोग करें; low और medium बिल्कुल high की तरह व्यवहार करते हैं।
उत्तर और रीज़निंग पढ़ें
Mistral मिश्रित कंटेंट ब्लॉक लौटा सकता है, जैसेthinking के बाद text। Phaseo उन्हें OpenAI-शैली के फ़ील्ड में बांट देता है, ताकि Chat Completions पढ़ने वाला डाउनस्ट्रीम कोड काम करता रहे:
- उत्तर
choices[0].message.contentमें होता है; - रीज़निंग टेक्स्ट
choices[0].message.reasoning_contentऔरreasoning_detailsमें होता है।
रोलआउट करें
- मॉडल ID को Mistral Small 3.2 से
mistral/mistral-small-4में बदलें। - रीज़निंग को सिर्फ़
noneऔरhighके साथ टेस्ट करें। highउपयोग करने वाले रूट पर आउटपुट गुणवत्ता और स्कीमा टेस्ट दोबारा चलाएं।- पूरे कटओवर से पहले
noneऔरhighके लिए लेटेंसी और लागत की तुलना करें।