इंटीग्रेशन सीमा की सूची बनाएं
हर वह जगह दर्ज करें जहां मौजूदा गेटवे दिखता है, ताकि माइग्रेशन के बाद कोई दूसरा, छिपा हुआ कॉन्फ़िगरेशन पथ न बचे:- बेस URL और API कुंजी के एनवायरनमेंट वेरिएबल;
- SDK इनिशियलाइज़ेशन और कस्टम हेडर;
- मॉडल ID और फ़ॉलबैक मॉडल;
- प्रदाता क्रम, अनुमति सूचियां और गोपनीयता आवश्यकताएं;
- स्ट्रीमिंग, टूल कॉलिंग और संरचित आउटपुट का कोड;
- बैच जॉब, फ़ाइलें, वेबहुक और async स्थिति पोलिंग;
- अनुरोध एट्रिब्यूशन और उपयोगकर्ता या सत्र मेटाडेटा।
अनुरोध
रूटिंग और नीति
संचालन
उपलब्ध नहीं
इनका Phaseo में कोई समकक्ष नहीं है। इन्हें ऐप में या पुराने प्लेटफ़ॉर्म पर रखें:- प्रतिक्रिया कैशिंग। Phaseo प्रतिक्रियाएं कैश नहीं करता। प्रॉम्प्ट कैशिंग फिर भी इनपुट लागत घटाती है।
- संग्रहीत प्रतिक्रियाएं और बातचीत। कोई
GETयाDELETE /v1/responses/{id}नहीं है। - टोकन गिनती (
/v1/messages/count_tokens)। - OpenAI Assistants, Threads, वेक्टर स्टोर, फ़ाइन-ट्यूनिंग, और पुराना
/v1/completions।
हर क्षमता को वर्गीकृत करें
ऊपर की तालिकाओं और आपके स्रोत प्लेटफ़ॉर्म की गाइड की मदद से, हर प्रोडक्शन व्यवहार को एक स्थिति दें:अपने ट्रैफ़िक पर सत्यापित करें
API संगतता से ये चीज़ें एक जैसी नहीं हो जातीं:- स्वचालित प्रदाता चयन और फ़ॉलबैक क्रम;
- प्रॉम्प्ट-कैश एफ़िनिटी और कैश मूल्य;
- प्रदाता-विशिष्ट अनुरोध फ़ील्ड और सिर्फ़-प्रतिक्रिया मेटाडेटा;
- दर सीमाएं और पुनः प्रयास का समय;
- डेटा प्रतिधारण, रेज़िडेंसी और ट्रेनिंग नीतियां;
- सटीक मॉडल उपलब्धता और मूल्य।
- उपयोग में आने वाले हर एंडपॉइंट के लिए एक सामान्य अनुरोध;
- प्रोडक्शन वाले ही क्लाइंट पथ से स्ट्रीमिंग;
- वास्तविक स्कीमा के साथ टूल कॉल और संरचित आउटपुट;
- हर प्रदाता या गोपनीयता शर्त;
- अमान्य कुंजी, अमान्य मॉडल, दर सीमा और अनुपलब्ध-प्रदाता विफलताएं;
- सफलता, विफलता और रद्दीकरण तक बैच या async जॉब।
GET /v1/generations?id=<request_id> से जांच सकें।