शुरू करने से पहले
आपके डिप्लॉयमेंट में ये होने चाहिए:- सार्वजनिक HTTPS बेस URL;
- OpenAI-संगत
/chat/completionsएंडपॉइंट; - Bearer टोकन प्रमाणीकरण; और
- उस एंडपॉइंट द्वारा स्वीकार किया जाने वाला प्रदाता मॉडल या डिप्लॉयमेंट आईडी।
/responses का समर्थन वैकल्पिक है। डिप्लॉयमेंट इसे स्पष्ट रूप से लागू न करता हो तो इसे बंद रखें।
डिप्लॉयमेंट जोड़ें
1
निजी मॉडल खोलें
डैशबोर्ड → सेटिंग्स → वर्कस्पेस → निजी मॉडल खोलें, फिर मॉडल जोड़ें चुनें। आपको वर्कस्पेस का मालिक या व्यवस्थापक होना चाहिए।
2
मॉडल का नाम दें
इस डिप्लॉयमेंट को प्रदाता सूची में जोड़ने के लिए कैटलॉग का मौजूदा मॉडल चुनें, या आप वर्कस्पेस नेमस्पेस चुन या बदल नहीं सकते। सटीक कैटलॉग आईडी उस मॉडल से जुड़ती है, उसकी सार्वजनिक पहचान बदले बिना।
legal-assistant जैसा छोटा मॉडल स्लग दें। यदि किसी कैटलॉग मॉडल का यह अनूठा स्लग नहीं है, तो Phaseo इसे वर्कस्पेस के विश्वसनीय नेमस्पेस से जोड़ता है:3
एंडपॉइंट कॉन्फ़िगर करें
अनुमान पाथ से पहले तक का बेस URL दें। उदाहरण:
/chat/completions या /responses शामिल न करें। प्रदाता का सटीक मॉडल या डिप्लॉयमेंट आईडी अलग से दें; Phaseo अनुरोध आगे भेजते समय उसे प्रतिस्थापित करता है।4
क्रेडेंशियल सहेजें
डिप्लॉयमेंट की API कुंजी दें। Phaseo क्रेडेंशियल एन्क्रिप्ट करता है और सहेजने के बाद उसे कभी लौटाता नहीं है। बाद में मॉडल सेटिंग्स से उसे बदला जा सकता है।
5
मॉडल को कॉल करें
बनाए गए मॉडल आईडी को सामान्य Chat Completions एंडपॉइंट के साथ इस्तेमाल करें:कॉल करने वाली API कुंजी निजी मॉडल के ही वर्कस्पेस की होनी चाहिए।
cURL
रूटिंग कैसे काम करती है
निजी मॉडल कैटलॉग मॉडल वाली ही Phaseo अनुरोध इंटरफ़ेस इस्तेमाल करते हैं। अलग वर्कस्पेस मॉडल केवल अपने कॉन्फ़िगर किए गए एंडपॉइंट पर रूट होता है। कैटलॉग मॉडल से जुड़ा एंडपॉइंट प्राथमिक, सामान्य पूल या केवल फ़ॉलबैक नीति के अनुसार उसकी प्रदाता सूची में जुड़ता है। Phaseo सहेजा गया क्रेडेंशियल Bearer टोकन के रूप में भेजता है और कॉन्फ़िगर किए गए प्रदाता मॉडल आईडी का प्रतिस्थापन करता है। निजी मॉडल सार्वजनिक प्रदाता रूट नहीं बनता और दूसरे वर्कस्पेस को दिखाई नहीं देता। सक्षम निजी मॉडल प्रमाणित मॉडल कैटलॉग में शामिल होते हैं और निजी फ़िल्टर में दिखते हैं।मौजूदा कैटलॉग मॉडल पर निजी डिप्लॉयमेंट जोड़ने या सक्षम करने के बाद रूटिंग जाँचने से पहले API परत में बदलाव पहुँचने के लिए 5–10 सेकंड दें। इस दौरान अनुरोध मॉडल के मौजूदा सार्वजनिक प्रदाता इस्तेमाल करते रह सकते हैं। पहले से चल रहे अनुरोध दोबारा रूट नहीं होते।
प्रदाता उदाहरण
प्रदाता के उत्पाद और URL प्रारूप बदल सकते हैं। प्रदाता के वर्तमान डिप्लॉयमेंट दस्तावेज़ में बेस URL, मॉडल आईडी, प्रमाणीकरण तरीका और समर्थित एंडपॉइंट की पुष्टि करें।
API से निजी मॉडल प्रबंधित करें
सर्वर-साइड प्रशासन के लिए निजी मॉडल API और आवश्यकतानुसारprivate_models:read, private_models:write या private_models:delete अनुमति वाली प्रबंधन कुंजी इस्तेमाल करें।
बनाने और अपडेट करने के अनुरोध model_reference स्वीकार करते हैं: सटीक कैटलॉग मॉडल आईडी या छोटा स्लग। Phaseo, model_id निकालता है; क्लाइंट उसे सीधे नहीं भेज सकते। मौजूदा Phaseo प्रदाता के लिए host_provider_id या दूसरे संचालक के लिए custom_provider_name और वैकल्पिक custom_provider_url इस्तेमाल करें।
समस्या निवारण
- प्रदाता से 404: जाँचें कि बेस URL अनुमान पाथ से पहले समाप्त होता है।
- अज्ञात मॉडल: प्रदाता का डिप्लॉयमेंट आईडी प्रदाता मॉडल आईडी में कॉपी करें। वहाँ Phaseo वर्कस्पेस मॉडल आईडी इस्तेमाल न करें।
- प्रदाता अनुरोध अधिकृत नहीं: सहेजा गया क्रेडेंशियल बदलें और पुष्टि करें कि प्रदाता Bearer प्रमाणीकरण स्वीकार करता है।
- Chat चलता है, पर Responses विफल होता है: प्रदाता मूल रूप से
/responsesलागू न करता हो तो Responses API बंद करें। - कैटलॉग में मॉडल नहीं है: पुष्टि करें कि मॉडल सक्षम है और कॉलर उसी वर्कस्पेस में प्रमाणित है।