acme/legal-assistant जैसी मॉडल ID के साथ कॉल करेगी। सिर्फ़ आपका वर्कस्पेस उसे देख या कॉल कर सकता है, और यह हर उस जगह काम करता है जहाँ सार्वजनिक मॉडल ID काम करती है।
निजी मॉडल बीटा चरण में हैं। वर्कस्पेस के मालिक और एडमिन इन्हें जोड़ते और प्रबंधित करते हैं।
शुरू करने से पहले
आपके डिप्लॉयमेंट में ये होने चाहिए:- एक सार्वजनिक HTTPS बेस URL;
- एक OpenAI-संगत
/chat/completionsएंडपॉइंट; - Bearer-टोकन प्रमाणीकरण; और
- एक अपस्ट्रीम मॉडल या डिप्लॉयमेंट ID जिसे वह एंडपॉइंट स्वीकार करता हो।
/responses का सपोर्ट वैकल्पिक है। जब तक डिप्लॉयमेंट उस एंडपॉइंट को स्पष्ट रूप से लागू न करे, इसे बंद रखें।
डिप्लॉयमेंट कनेक्ट करें
1
निजी मॉडल खोलें
डैशबोर्ड → सेटिंग्स → वर्कस्पेस → निजी मॉडल खोलें, फिर मॉडल जोड़ें चुनें। आपको वर्कस्पेस का मालिक या एडमिन होना चाहिए। स्क्रिप्ट से, उन्हीं फ़ील्ड और प्रबंधन कुंजी के साथ
POST /v1/private-models कॉल करें।2
मॉडल को नाम दें
इस डिप्लॉयमेंट को किसी मौजूदा कैटलॉग मॉडल की प्रदाता सूची में जोड़ने के लिए वह मॉडल चुनें, या आप वर्कस्पेस नेमस्पेस को चुन या बदल नहीं सकते। सटीक कैटलॉग ID उस मॉडल से जुड़ती हैं और उसकी सार्वजनिक पहचान नहीं बदलतीं।
legal-assistant जैसा छोटा मॉडल slug दर्ज करें। अगर किसी कैटलॉग मॉडल का वह अद्वितीय slug नहीं है, तो Phaseo भरोसेमंद वर्कस्पेस नेमस्पेस को उसके साथ जोड़ देता है:3
एंडपॉइंट कॉन्फ़िगर करें
इन्फ़रेंस पाथ से पहले तक का बेस URL दर्ज करें। उदाहरण के लिए:
/chat/completions या /responses शामिल न करें। सटीक अपस्ट्रीम मॉडल या डिप्लॉयमेंट ID अलग से दर्ज करें; अनुरोध फ़ॉरवर्ड करते समय Phaseo उसे बदलकर भेजता है।4
क्रेडेंशियल सेव करें
डिप्लॉयमेंट की API कुंजी दर्ज करें। Phaseo क्रेडेंशियल को एन्क्रिप्ट करता है और सेव करने के बाद उसे कभी वापस नहीं दिखाता। आप बाद में मॉडल के सेटिंग्स पेज से उसे बदल सकते हैं।
5
मॉडल को कॉल करें
बनाई गई मॉडल ID को सामान्य Chat Completions एंडपॉइंट के साथ उपयोग करें:कॉल करने वाली API कुंजी उसी वर्कस्पेस की होनी चाहिए जिसका निजी मॉडल है।
cURL
रूटिंग कैसे काम करती है
एक स्वतंत्र वर्कस्पेस मॉडल सिर्फ़ अपने कॉन्फ़िगर किए गए एंडपॉइंट पर रूट होता है। किसी कैटलॉग मॉडल से जुड़ा एंडपॉइंट अपनी रूटिंग नीति के अनुसार उस मॉडल की प्रदाता सूची में शामिल होता है:
Phaseo सेव किया गया क्रेडेंशियल Bearer टोकन के रूप में भेजता है और कॉन्फ़िगर की गई अपस्ट्रीम मॉडल ID डालता है।
निजी मॉडल कभी सार्वजनिक प्रदाता रूट नहीं बनता और दूसरे वर्कस्पेस को नहीं दिखता। सक्षम निजी मॉडल प्रमाणित मॉडल कैटलॉग में शामिल होते हैं और निजी फ़िल्टर के तहत दिखते हैं।
किसी निजी डिप्लॉयमेंट को जोड़ने, बदलने या सक्षम करने के बाद उसकी रूटिंग टेस्ट करने से पहले एक मिनट तक रुकें। तब तक कुछ अनुरोध अब भी पिछला कॉन्फ़िगरेशन उपयोग कर सकते हैं, जैसे मॉडल के सार्वजनिक प्रदाता। पहले से चल रहे अनुरोध दोबारा रूट नहीं किए जाते।
प्रदाता उदाहरण
प्रदाता उत्पाद और URL फ़ॉर्मैट बदल सकते हैं। बेस URL, मॉडल ID, प्रमाणीकरण तरीका और समर्थित एंडपॉइंट प्रदाता के मौजूदा डिप्लॉयमेंट दस्तावेज़ में पक्का कर लें।
API से निजी मॉडल प्रबंधित करें
सर्वर-साइड प्रशासन के लिए Private Models API का उपयोग ऐसी प्रबंधन कुंजी के साथ किया जा सकता है जिसमें ज़रूरत के अनुसारprivate_models:read, private_models:write या private_models:delete हो।
बनाने और अपडेट करने के अनुरोध model_reference स्वीकार करते हैं, जो या तो सटीक कैटलॉग मॉडल ID होती है या छोटा slug। Phaseo model_id खुद निकालता है; क्लाइंट उसे सीधे नहीं भेज सकते। किसी मौजूदा Phaseo प्रदाता के लिए host_provider_id का उपयोग करें, या किसी अन्य ऑपरेटर के लिए custom_provider_name और वैकल्पिक custom_provider_url का।
समस्या निवारण
- प्रदाता से 404: जाँचें कि बेस URL इन्फ़रेंस पाथ से पहले खत्म होता है।
- अज्ञात मॉडल: प्रदाता की अपस्ट्रीम डिप्लॉयमेंट ID को अपस्ट्रीम मॉडल ID में कॉपी करें। वहाँ Phaseo वर्कस्पेस मॉडल ID का उपयोग न करें।
- अनधिकृत अपस्ट्रीम अनुरोध: सेव किया गया क्रेडेंशियल बदलें और पक्का करें कि प्रदाता Bearer प्रमाणीकरण स्वीकार करता है।
- Chat काम करता है लेकिन Responses विफल होता है: जब तक प्रदाता
/responsesको नेटिव रूप से लागू न करे, Responses API बंद करें। - मॉडल कैटलॉग में नहीं दिखता: पक्का करें कि मॉडल सक्षम है और कॉलर उसी वर्कस्पेस में प्रमाणित है।