ما الذي سيتغير
1
احصر إعداد الوكيل
أدرج كل أسماء النماذج المستعارة والبدائل وقواعد المزوّد وسياسات إعادة المحاولة والميزانيات وعمليات الاستدعاء ومتغيرات البيئة المستخدمة في نشر LiteLLM الحالي. حدّد الإعدادات التي تمثل سياسة مشتركة وتلك الخاصة بتطبيق واحد.
2
استبدل نقطة نهاية الوكيل
أبقِ شيفرة الطلب المتوافقة مع OpenAI كما هي، وغيّر عنوان URL الأساسي والمفتاح.
3
عيّن الأسماء المستعارة وقواعد التوجيه
تحقّق من كل نموذج إنتاج باستخدام
GET /v1/models. إذا كانت التطبيقات المستدعية تعتمد على أسماء مستعارة داخلية، فوحّدها عند حد واحد في التطبيق بدلًا من تعديل كل طلب.انقل المطالبات والمعلمات وقيود المزوّد القابلة لإعادة الاستخدام إلى الإعدادات المسبقة. واضبط ترتيب المزوّدين والبدائل عبر التوجيه والرجوع الاحتياطي.4
تحقّق من مسارات عمل الإنتاج
اختبر البث والأدوات والمخرجات المنظّمة وإعادة المحاولة وتحويل الأخطاء وأي قابلية رصد تعتمد على عمليات الاستدعاء كان نشر LiteLLM يديرها. قارن زمن الاستجابة والمخرجات واستخدام الرموز والتكلفة قبل نقل حركة المرور تدريجيًا.
قائمة التحقق من الترحيل
- تم تحديد عناوين URL ومفاتيح LiteLLM واعتماديات النشر.
- لكل نموذج واسم مستعار في الإنتاج تعيين صريح في Phaseo.
- نُقلت الإعدادات الافتراضية المشتركة إلى الإعدادات المسبقة أو إلى حد واحد في التطبيق.
- تنجح اختبارات البث والأدوات والمخرجات المنظّمة في التجهيز عند استخدامها.
- وُضع بديل مقصود لعمليات الاستدعاء وبيانات القياس عن بُعد المطلوبة.
- يظل التراجع مقتصرًا على تغيير إعداد نقطة النهاية والمفتاح.