सेवा स्तर

Provider support करे तो service tiers से अलग-अलग pricing और delivery modes चुने जा सकते हैं。 उपलब्धता provider और model पर निर्भर करती है। अनुरोधित model किसी tier को support न करे, तो Gateway उसके ज़रिए route नहीं करेगा।

अभी सेवा स्तर केवल उन प्रदाताओं के समर्थित टेक्स्ट मॉडल पर उपलब्ध हैं जो यह सुविधा देते हैं।

service_tier तीनों टेक्स्ट अनुरोध endpoints पर उपलब्ध है:

/v1/messages पर Anthropic के साथ संगत Messages API
/v1/chat/completions पर OpenAI के साथ संगत Chat Completions API
/v1/responses पर OpenAI के साथ संगत Responses API

टियर का अवलोकन

स्तर	माँगने का तरीका	सामान्य उपयोग
`Standard`	Default behavior। अतिरिक्त field की ज़रूरत नहीं।	सामान्य production traffic।
`Fast`	Request में `service_tier: "fast"` सेट करें।	Support होने पर तेज़ या premium routing। OpenAI `priority` भी स्वीकार करता है।
`Ultrafast`	अनुरोध में `service_tier: "ultrafast"` सेट करें।	समर्थन मिलने पर सबसे तेज़ रूटिंग।
`Flex`	Request में `service_tier: "flex"` सेट करें।	Support होने पर कम लागत वाली routing।
`Batch`	`service_tier` के बजाय Batch API उपयोग करें।	ऐसे बड़े deferred workloads जहाँ latency कम महत्वपूर्ण हो।

API संगतता

किसी भी supported synchronous text API को कॉल करते समय वही service_tier field उपयोग करें:

service_tier की मान्य values हैं standard, fast, ultrafast, priority, flex और batch। service_tier छोड़ने पर default Standard होता है। Phaseo premium tier का canonical नाम Fast उपयोग करता है। OpenAI routes पर priority provider-compatible alias के रूप में स्वीकार होता है और वही routing तथा pricing लागू होती है। Batch को synchronous text requests के बजाय Batch API संभालता है।

Phaseo normalized gateway values को internally provider-native controls से map करता है। उदाहरण के लिए, Anthropic route upstream में Anthropic-native tier fields पा सकता है, लेकिन client request में यहाँ दिए गए gateway values ही रहते हैं।

Standard

Standard default routing mode है। इसे उपयोग करने के लिए service_tier सेट करना ज़रूरी नहीं है।

{
  "model": "openai/gpt-5.5",
  "input": "Summarise this incident report."
}

Fast

Provider का premium या high-priority offer चाहिए, तो Fast चुनें। Phaseo provider-neutral नाम fast उपयोग करता है। OpenAI इसे Fast mode कहता है और supported models पर fast तथा priority दोनों स्वीकार करता है।

{
  "model": "openai/gpt-5.5",
  "input": "Summarise this incident report.",
  "service_tier": "fast"
}

Anthropic Messages का उदाहरण

{
  "model": "anthropic/claude-sonnet-4",
  "max_tokens": 512,
  "messages": [
    { "role": "user", "content": "Summarise this incident report." }
  ],
  "service_tier": "fast"
}

Anthropic पर route करते समय Phaseo इसे उचित provider-native control में map करता है।

Mistral Priority और EU रूटिंग

Mistral Priority Tier के लिए पात्र Mistral enterprise account आवश्यक है। Phaseo priority को Mistral के automatic priority mode से map करता है और Mistral द्वारा बताई tier पर charge करता है; Mistral Standard पर fallback करे, तो Standard pricing लागू होती है। mistral-eu provider offer के साथ GLM 5.2 को Mistral के EU regional endpoint पर pin किया जा सकता है: प्रदाता ऑफ़र:

{
  "model": "z-ai/glm-5.2",
  "messages": [
    { "role": "user", "content": "Summarise this incident report." }
  ],
  "service_tier": "priority",
  "provider": {
    "only": ["mistral-eu"],
    "required_execution_region": "eu"
  }
}

Mistral regional inference पर 10% price uplift लागू होता है। Global Mistral offer पर Batch pricing उपलब्ध है, लेकिन Mistral regional endpoints पर Batch समर्थित नहीं है। Phaseo Mistral के प्रकाशित Batch और Priority reference rates को runtime availability से अलग दर्ज करता है। Catalogue में price दिखने से वह tier routable नहीं हो जाता: जब तक खास Mistral route Priority support घोषित न करे, Priority बंद रहता है; Batch के लिए global Mistral Batch API उपयोग करनी होती है। Priority eligibility Mistral account और model पर निर्भर है।

Ultrafast

मॉडल और प्रदाता समर्थन करें तो सबसे तेज़ सेवा स्तर के लिए Ultrafast इस्तेमाल करें। Phaseo केवल Ultrafast मूल्य वाली या Ultrafast-विशिष्ट रूट पर भेजता है; यह स्तर उपलब्ध न हो तो Fast या Standard पर नहीं लौटता।

{
  "model": "<model-id-with-ultrafast-pricing>",
  "input": "Summarise this incident report.",
  "service_tier": "ultrafast"
}

Flex

Provider कम लागत वाला service tier दे और आप उस pricing mode के trade-offs स्वीकार करते हों, तब Flex चुनें।

{
  "model": "openai/gpt-5.5",
  "input": "Summarise this incident report.",
  "service_tier": "flex"
}

Chat Completions का उदाहरण

{
  "model": "openai/gpt-5.5",
  "messages": [
    { "role": "user", "content": "Summarise this incident report." }
  ],
  "service_tier": "flex"
}

Responses का उदाहरण

{
  "model": "openai/gpt-5.5",
  "input": [
    { "role": "user", "content": "Summarise this incident report." }
  ],
  "service_tier": "flex"
}

Batch

batch batch execution के लिए मान्य tier value है, लेकिन synchronous text APIs service_tier: "batch" को अस्वीकार करके Batch API की ओर संकेत करने वाला validation error देती हैं। Batch pricing deferred batch execution पर लागू होती है, सामान्य synchronous requests पर नहीं; इसलिए Batch API या batch job workflow उपयोग करें।

ध्यान दें

Tier support provider और model के अनुसार बदलता है।
Model pages के pricing cards में data उपलब्ध होने पर tier-specific rates दिखते हैं।
कुछ providers specialized upstream offers देते हैं जिन्हें Phaseo catalogue में unified tier experience में map करता है।
समर्थित टेक्स्ट इंटरफ़ेस पर क्लाइंट को दिखने वाले service_tier मान सामान्यीकृत रहते हैं; प्रदाता के मूल नाम गेटवे के भीतर संभाले जाते हैं।

सारांश

मॉडल और रूटिंग

सुविधाएँ

एकीकरण

वर्कस्पेस और पहुँच

विश्वसनीयता और संचालन

प्लेटफ़ॉर्म और अनुसंधान

माइग्रेशन गाइड

समुदाय

सेवा स्तर

टियर का अवलोकन

API संगतता

Standard

Fast

Anthropic Messages का उदाहरण

Mistral Priority और EU रूटिंग

Ultrafast

Flex

Chat Completions का उदाहरण

Responses का उदाहरण

Batch

ध्यान दें

संबंधित पेज

​टियर का अवलोकन

​API संगतता

​Standard

​Fast

​Anthropic Messages का उदाहरण

​Mistral Priority और EU रूटिंग

​Ultrafast

​Flex

​Chat Completions का उदाहरण

​Responses का उदाहरण

​Batch

​ध्यान दें

​संबंधित पेज

टियर का अवलोकन

API संगतता

Standard

Fast

Anthropic Messages का उदाहरण

Mistral Priority और EU रूटिंग

Ultrafast

Flex

Chat Completions का उदाहरण

Responses का उदाहरण

Batch

ध्यान दें

संबंधित पेज