मुख्य सामग्री पर जाएं
किसी एक अनुरोध में provider ऑब्जेक्ट जोड़कर बदलें कि कौन से प्रदाता उसे संभालें, वर्कस्पेस डिफ़ॉल्ट या प्रीसेट को छुए बिना। अंत में आप एक पसंदीदा क्रम तय कर सकेंगे, अनुरोध को अनुमति-सूची के अंदर रख सकेंगे, या किसी एक प्रदाता को छोड़ सकेंगे, और प्रतिक्रिया में देख सकेंगे कि किस प्रदाता ने जवाब दिया। ये अनुरोध ढाँचे प्रोडक्शन के लिए तैयार हैं। प्रदाता स्लग असली उदाहरण हैं; अपने मॉडल को सर्व करने वाले प्रदाताओं के लिए मॉडल का पेज देखें। ठीक एक प्रदाता इस्तेमाल करने और प्रदाताओं के बीच फ़ॉलबैक बंद करने के लिए, उसे मॉडल ID के आगे लगाएँ: एक प्रदाता पिन करें देखें।

प्रदाताओं को तय क्रम में आज़माएँ

meta: true प्रतिक्रिया में meta.routing.selected_provider जोड़ता है, ताकि आप लॉग खोले बिना नतीजा जाँच सकें।

अनुरोध को अनुमति-सूची के अंदर रखें

only भेजें, और चाहें तो उस सूची के अंदर रैंक करने के लिए sort भी:
अगर सूची का कोई भी प्रदाता मॉडल सर्व नहीं करता, तो अनुरोध सूची से बाहर जाने के बजाय विफल हो जाता है।

एक प्रदाता छोड़ें

जब कोई प्रदाता ठीक से काम न कर रहा हो, या जब आप कोई दूसरा रास्ता टेस्ट कर रहे हों, तब ignore भेजें:

इन्हें मिलाएँ

पूल के लिए only, उसके अंदर पसंद के लिए order, और बाकी के लिए sort इस्तेमाल करें। यह अनुरोध को Google Vertex पर रखता है, पहले EU क्षेत्र आज़माता है, फिर लेटेंसी के हिसाब से रैंक करता है:

जाँचें कि अनुरोध कहाँ गया

सेटिंग्स → उपयोग → लॉग्स में अनुरोध खोलें और Routing observability फैलाएँ। इसमें वे प्रदाता दिखते हैं जिन्हें रैंकिंग से पहले बाहर किया गया और उसकी वजह, और स्कोर के साथ रैंक किए गए उम्मीदवार; रूटिंग फ़ैसला समझें हर फ़ील्ड बताता है। अनुरोध-स्तर के नियम उन ओवरराइड के लिए इस्तेमाल करें जो अस्थायी हों, किसी एक कॉलर के लिए हों, या किसी एक उपयोगकर्ता फ़्लो से जुड़े हों। जब वही नियम कई सेवाओं में दिखने लगें, तो उन्हें एक प्रीसेट में ले जाएँ, जहाँ वे यह भी सीमित करते हैं कि फ़ॉलबैक किन प्रदाताओं का उपयोग कर सकता है। रैंकिंग की तुलना के लिए, प्रदाताओं को क्रमित करें देखें।
अंतिम संशोधन 5 नवंबर 2026