openai/<Phaseo model ID> ومفتاح Phaseo وapi_base="https://api.phaseo.app/v1". يعمل هذا مع استدعاءات LiteLLM المباشرة ومع النماذج خلف وكيل LiteLLM.
التثبيت
استدعاء Phaseo من LiteLLM
ok تعني أن الإعداد يعمل. يستخدم LiteLLM البادئة openai/ لنقاط النهاية المتوافقة مع OpenAI. يبقى معرّف نموذج Phaseo هو openai/gpt-6-astra، لذا تصبح سلسلة النموذج في LiteLLM هي openai/openai/gpt-6-astra.
إضافة نماذج Phaseo إلى وكيل LiteLLM
امنح كل نموذج اسمًا مستعارًا حتى لا يحتاج كود التطبيق إلى بادئة LiteLLM:model: "phaseo-gpt-6-astra". تُبقي الأسماء المستعارة أسماء النماذج مقروءة في الإنتاج.
القيود المعروفة
- تغيّر بعض طبقات الوكيل أنواع الأدوات التي لا تعرفها أو تحذفها. إذا كنت تستخدم أدوات الخادم في Phaseo، فاختبر مسار LiteLLM المحدد.
- يتتبّع كل من LiteLLM وPhaseo الإنفاق. قرّر أيهما مرجعك للتكلفة؛ أسعار Phaseo موجودة في حاسبة الأسعار.