fast, ultrafast) या सस्ता, कम प्राथमिकता वाला मोड (flex) स्वीकार करने के लिए टेक्स्ट अनुरोध पर service_tier सेट करें। फिर Phaseo सिर्फ़ उन प्रदाताओं पर रूट करता है जो उस मॉडल के लिए वह स्तर देते हैं। यह फ़ील्ड /v1/chat/completions, /v1/responses और /v1/messages पर एक जैसा काम करता है।
स्तर सिर्फ़ टेक्स्ट मॉडल के लिए, और सिर्फ़ वहीं उपलब्ध हैं जहाँ मॉडल और प्रदाता उन्हें सपोर्ट करते हैं। जहाँ Phaseo के पास स्तर-विशेष कीमतें हैं, वहाँ मॉडल पेज उन्हें दिखाते हैं।
जब कोई स्तर उपलब्ध न हो तो क्या होता है
Phaseo सिर्फ़ वे प्रदाता रूट रखता है जो अनुरोधित स्तर देते हैं; यह कभी किसी दूसरे स्तर पर फ़ॉलबैक नहीं करता। अगर कोई रूट उसे नहीं देता, तो अनुरोध400 unsupported_model_or_endpoint, कारण service_tier_not_supported, के साथ विफल होता है।
अन्य मान 400 validation_error के साथ विफल होते हैं:
- सिंक्रोनस अनुरोध पर
service_tier: "batch"(कीवर्डbatch_service_tier_not_supported)। इसके बजाय Batch API का उपयोग करें। standard,default,fast,ultrafast,priority,flexयाbatchके अलावा कोई भी मान (कीवर्डunsupported_service_tier)।
हर एंडपॉइंट पर स्तर का अनुरोध करें
ultrafast के लिए ऐसा मॉडल उपयोग करें जिसके पेज पर Ultrafast कीमत दी गई हो।
Mistral Priority और EU रूटिंग
Mistral Priority Tier के लिए योग्य Mistral एंटरप्राइज़ खाता चाहिए। Phaseopriority को Mistral के स्वचालित प्राथमिकता मोड से मैप करता है और Mistral जो स्तर रिपोर्ट करता है उसी का बिल बनाता है: अगर Mistral Standard पर फ़ॉलबैक करता है, तो आप Standard कीमत देते हैं।
कैटलॉग में कीमत होने से कोई स्तर रूट करने योग्य नहीं बनता। Priority तब तक बंद रहता है जब तक वह खास Mistral रूट Priority सपोर्ट का विज्ञापन न करे, और योग्यता फिर भी Mistral खाते और मॉडल पर निर्भर करती है।
GLM 5.2 को mistral-eu प्रदाता ऑफ़र के साथ Mistral के EU क्षेत्रीय एंडपॉइंट पर पिन किया जा सकता है: