Skip to main content
अगर आपका ऐप OpenAI-संगत क्लाइंट से LiteLLM प्रॉक्सी को कॉल करता है, तो इस गाइड का उपयोग करें। पहले प्रॉक्सी सीमा बदलें, फिर aliases, रूटिंग नियम और साझा डिफ़ॉल्ट को सोच-समझकर मैप करें।

क्या बदलेगा

1

प्रॉक्सी कॉन्फ़िगरेशन की सूची बनाएं

मौजूदा LiteLLM डिप्लॉयमेंट में उपयोग किए जाने वाले सभी मॉडल aliases, fallbacks, प्रोवाइडर नियम, retry नीतियां, बजट, callbacks और पर्यावरण चर सूचीबद्ध करें। पहचानें कि कौन-सी सेटिंग साझा नीति है और कौन-सी केवल एक ऐप के लिए है।
2

प्रॉक्सी endpoint बदलें

OpenAI-संगत अनुरोध कोड बनाए रखें और केवल बेस URL तथा कुंजी बदलें।
3

Aliases और रूटिंग नियम मैप करें

हर प्रोडक्शन मॉडल को GET /v1/models से सत्यापित करें। अगर कॉल करने वाले आंतरिक aliases पर निर्भर हैं, तो हर अनुरोध संपादित करने के बजाय ऐप की एक सीमा पर उन्हें सामान्य प्रारूप में बदलें।दोबारा उपयोग होने वाले प्रॉम्प्ट, पैरामीटर और प्रोवाइडर प्रतिबंधों को Presets में ले जाएं। प्रोवाइडर क्रम और fallbacks को Routing and Fallbacks से कॉन्फ़िगर करें।
4

प्रोडक्शन वर्कफ़्लो की जांच करें

स्ट्रीमिंग, टूल, संरचित आउटपुट, retries, त्रुटि मैपिंग और LiteLLM डिप्लॉयमेंट में callbacks से संभाली जाने वाली ऑब्ज़र्वेबिलिटी का परीक्षण करें। ट्रैफ़िक धीरे-धीरे बदलने से पहले विलंबता, आउटपुट, टोकन उपयोग और लागत की तुलना करें।

माइग्रेशन चेकलिस्ट

  • LiteLLM URL, कुंजियां और डिप्लॉयमेंट निर्भरताएं दर्ज की गई हैं।
  • हर प्रोडक्शन मॉडल और alias का Phaseo मैपिंग स्पष्ट है।
  • साझा डिफ़ॉल्ट presets या ऐप की एक सीमा पर ले जाए गए हैं।
  • इस्तेमाल होने पर स्ट्रीमिंग, टूल और संरचित आउटपुट staging में पास होते हैं।
  • ज़रूरी callbacks और टेलीमेट्री का विकल्प तय है।
  • रोलबैक अब भी केवल endpoint और कुंजी की सेटिंग बदलने तक सीमित है।

अगले चरण

अंतिम संशोधन 2 अक्टूबर 2026