मुख्य सामग्री पर जाएं
बेस URL और कुंजी बदलें, अनुरोध पेलोड वैसे ही रखें, और हर मॉडल ID मैप करें: LLM Gateway का प्रीफ़िक्स सर्व करने वाले प्रदाता का नाम बताता है, जबकि Phaseo का प्रीफ़िक्स मॉडल बनाने वाले का।

क्लाइंट बदलें

हर LLM_GATEWAY_* वेरिएबल को मैप करें या हटाएं, CI और होस्टिंग सेटिंग में भी। अगर ऐप @llmgateway/ai-sdk-provider उपयोग करता है, तो Vercel AI Gateway से माइग्रेट करना की तरह @phaseo/ai-sdk-provider पर जाएं।

मॉडल ID मैप करें

Phaseo की ID सूचीबद्ध करें और हर प्रोडक्शन मॉडल को उनसे जांचें:
LLM Gateway पर alibaba/<model> Phaseo ID नहीं है। हर ID को Phaseo के <org>/<model> से मैप करें, और प्रदाता पिन को provider.only या provider:org/model ID से बनाए रखें। gpt-4o जैसे बिना प्रीफ़िक्स वाले उपनामों का अनुवाद हर कॉल साइट पर नहीं, क्लाइंट सीमा पर एक फ़ंक्शन में करें।

गेटवे सुविधाएं मैप करें

टेस्ट करें और रोलआउट करें

अपने गोल्डन प्रॉम्प्ट दोनों गेटवे पर चलाएं और गुणवत्ता, लेटेंसी और लागत की तुलना करें। पहले एंडपॉइंट जांचें:
ट्रैफ़िक बदलने से पहले:
  • PHASEO_API_KEY हर एनवायरनमेंट में सेट है;
  • हर प्रोडक्शन मॉडल ID मैप की गई है और सूची में है;
  • स्टेजिंग में एक नॉन-स्ट्रीमिंग और एक स्ट्रीमिंग अनुरोध पास होता है;
  • अमान्य-कुंजी और अमान्य-मॉडल त्रुटियां संभाली जाती हैं; उनकी बॉडी LLM Gateway से अलग हो सकती है;
  • स्टेजिंग का कोई विफल अनुरोध GET /v1/generations से वापस पाया जा सकता है;
  • साझा प्रॉम्प्ट और रूटिंग डिफ़ॉल्ट वहीं प्रीसेट में हैं जहां उन्हें होना चाहिए।
कैनरी फ़्लैग के पीछे रिलीज़ करें, स्थिर होने पर ट्रैफ़िक के छोटे हिस्से से पूरे ट्रैफ़िक तक जाएं, और पुराना कॉन्फ़िगरेशन हटाने से पहले कम से कम एक रिलीज़ चक्र तक प्रोडक्शन मेट्रिक्स पर नज़र रखें।
अंतिम संशोधन 7 नवंबर 2026