Skip to main content
إذا كان تطبيقك يستخدم LLM Gateway بالفعل عبر عميل متوافق مع OpenAI، فيمكنك غالبًا الإبقاء على محتوى الطلبات والبدء باستبدال حد البوابة فقط.

ما الذي سيتغير

قبل البدء

  • إعداد نقطة نهاية LLM Gateway الحالية ومفتاح API.
  • إتاحة PHASEO_API_KEY في البيئات المحلية والتجهيز والإنتاج.
  • عينة مرجعية لجودة المخرجات وزمن الاستجابة ومعدل الأخطاء.

1) احصر نقاط التكامل

حدّد الملفات الدقيقة التي تنشئ عميل LLM Gateway وتعدّه.
  • ابحث عن جميع مواضع استخدام متغيرات البيئة LLM_GATEWAY_*.
  • اعثر على كل مراجع عنوان URL الأساسي في إعدادات وقت التشغيل.
  • سجّل معرّفات النماذج النشطة حاليًا وسلاسل البدائل.
  • دوّن القيم الافتراضية المشتركة للمطالبات وقواعد السماح أو المنع للمزوّدين وإعدادات المعلمات التي ينبغي نقلها إلى إعدادات Gateway المسبقة.

2) بدّل نقطة النهاية وبيانات الاعتماد

أبقِ محتوى الطلبات كما هو أولًا. ابدأ بتغيير نقطة النهاية والمفتاح فقط لتقليل المخاطر.

3) تحقّق من توافق النماذج

استعلم عن كتالوج نماذج Phaseo وتحقّق من كل نموذج مستخدم في الإنتاج. إذا كان الإعداد الحالي يستخدم أسماء مستعارة بلا بادئة مثل gpt-4o، فوحّدها عند حد واحد بدلًا من تغيير كل عميل. إذا كانت طبقة البوابة الحالية توحّد أيضًا الإعدادات الافتراضية للطلبات أو قيود المزوّدين، فعيّن ذلك السلوك إلى الإعدادات المسبقة والتوجيه والرجوع الاحتياطي أثناء الترحيل بدلًا من إعادة تنفيذه لكل عميل.

4) قائمة التحقق من الترحيل من LLMGateway

  • تم تعيين جميع متغيرات LLM_GATEWAY_* أو إزالتها.
  • تم تحديث عنوان URL الأساسي إلى https://api.phaseo.app/v1.
  • تم إعداد PHASEO_API_KEY في جميع بيئات النشر.
  • تم التحقق من معرّفات نماذج الإنتاج باستخدام /v1/models.
  • تم التحقق في بيئة التجهيز من طلب متدفق وآخر غير متدفق.
  • أُعيد فحص معالجة فشل المفاتيح والنماذج غير الصالحة.
  • نُقلت القيم الافتراضية المشتركة للمطالبات والتوجيه إلى الإعدادات المسبقة عند الحاجة.
  • أُعيد فحص عمليات البحث عن التوليدات عبر GET /v1/generations?id=<request_id> حتى يمكن إعادة تشغيل الطلبات الفاشلة من محتوى replay_request المخزّن عند replay_supported=true.

5) تحقّق وأطلق التغيير

  1. شغّل مجموعة المطالبات المرجعية وقارن الجودة وزمن الاستجابة والتكلفة بخط الأساس.
  2. تأكد من إمكانية استعادة طلبات التجهيز الفاشلة باستخدام حمولة إعادة التشغيل التي يعيدها GET /v1/generations.
  3. أطلق التغيير خلف علامة canary وزد نسبة حركة المرور تدريجيًا بعد استقرار النتائج.
  4. راقب مقاييس الإنتاج لدورة إصدار واحدة على الأقل قبل إزالة الإعداد القديم.

أوامر التحقق

ثم:
  • نفّذ طلبًا متدفقًا وآخر غير متدفق في بيئة التجهيز.
  • أعد تشغيل المطالبات المرجعية وقارنها بخط الأساس.

الخطوات التالية

آخر تعديل في ٢ أكتوبر ٢٠٢٦