openai/<Phaseo model ID>, अपनी Phaseo कुंजी और api_base="https://api.phaseo.app/v1" दें। यह सीधे LiteLLM कॉल और LiteLLM प्रॉक्सी के पीछे वाले मॉडल, दोनों के लिए काम करता है।
इंस्टॉल करें
LiteLLM से Phaseo कॉल करें
ok प्रिंट होने का मतलब है कि सेटअप काम करता है। LiteLLM OpenAI-संगत एंडपॉइंट के लिए openai/ प्रीफ़िक्स इस्तेमाल करता है। Phaseo मॉडल ID अब भी openai/gpt-6-astra है, इसलिए LiteLLM मॉडल स्ट्रिंग openai/openai/gpt-6-astra बन जाती है।
LiteLLM प्रॉक्सी में Phaseo मॉडल जोड़ें
हर मॉडल को एक उपनाम दें ताकि ऐप्लिकेशन कोड को LiteLLM प्रीफ़िक्स की ज़रूरत न पड़े:model: "phaseo-gpt-6-astra" के साथ कॉल करें। उपनाम प्रोडक्शन में मॉडल के नाम पढ़ने योग्य रखते हैं।
ज्ञात सीमाएँ
- कुछ प्रॉक्सी लेयर अनजान टूल प्रकारों को बदल देती हैं या हटा देती हैं। अगर आप Phaseo सर्वर टूल इस्तेमाल करते हैं, तो ठीक वही LiteLLM रूट जाँचें।
- LiteLLM और Phaseo दोनों खर्च ट्रैक करते हैं। तय करें कि लागत के लिए आपका रिकॉर्ड कौन सा होगा; Phaseo की कीमतें प्राइसिंग कैलकुलेटर में हैं।