मुख्य सामग्री पर जाएं
आपकी LiteLLM प्रॉक्सी को कॉल करने वाले क्लाइंट को Phaseo कुंजी के साथ https://api.phaseo.app/v1 पर पॉइंट करें, फिर हर model_name उपनाम और हर प्रॉक्सी सेटिंग को सोच-समझकर मैप करें। LiteLLM रखकर Phaseo को उसके अपस्ट्रीम के रूप में उपयोग करने के लिए LiteLLM इंटीग्रेशन देखें।

क्लाइंट बदलें

हर उपनाम को GET /v1/models?format=openai की किसी ID से स्पष्ट रूप से मैप करना होता है। अगर कॉलर आंतरिक उपनाम उपयोग करते हैं, तो हर अनुरोध बदलने के बजाय क्लाइंट सीमा पर एक फ़ंक्शन में उनका अनुवाद करें।

प्रॉक्सी कॉन्फ़िगरेशन मैप करें

प्रॉक्सी हटाने से पहले कॉलबैक, बजट और पुनः प्रयासों की सूची बनाएं: प्रॉक्सी हटते ही ये चुपचाप बंद हो जाते हैं। प्रॉक्सी पूरी टीम का ट्रैफ़िक एक ही कुंजी मालिक से भेजती है, इसलिए वह उस उपयोगकर्ता का प्रति-मिनट-अनुरोध भत्ता साझा करती है, जो नए वर्कस्पेस के लिए 10 है। कटओवर से पहले Gateway सीमाएं देखें और ऊंची सीमा की व्यवस्था करें।

टेस्ट करें और रोलआउट करें

स्ट्रीमिंग, टूल, संरचित आउटपुट, पुनः प्रयास, त्रुटि मैपिंग, और प्रॉक्सी जो भी कॉलबैक-आधारित टेलीमेट्री संभालती थी, उसे टेस्ट करें। ट्रैफ़िक धीरे-धीरे बदलने से पहले लेटेंसी, आउटपुट, टोकन उपयोग और लागत की तुलना करें। कटओवर से पहले:
  • हर LiteLLM URL, कुंजी और LITELLM_* वेरिएबल पहचाना गया है;
  • हर प्रोडक्शन उपनाम का स्पष्ट Phaseo मैपिंग है;
  • साझा डिफ़ॉल्ट प्रीसेट में या एक सीमा फ़ंक्शन में हैं;
  • ज़रूरी कॉलबैक और टेलीमेट्री का विकल्प मौजूद है;
  • आपने तय कर लिया है कि खर्च का रिकॉर्ड LiteLLM, Phaseo या दोनों में से कौन रखेगा;
  • रोलबैक अब भी सिर्फ़ बेस URL और कुंजी का बदलाव है।
अंतिम संशोधन 7 नवंबर 2026