Skip to main content
توجّه Phaseo Gateway كل طلب إلى مزوّد قادر على تشغيل النموذج الذي اخترته. عندما يكون المزوّد بطيئًا أو يفرض حدًا للمعدل أو يعيد أخطاء، يمكن لـ Gateway تجربة بدائل احتياطية حتى تكتمل طلباتك.

اختيار وضع التوجيه

ابدأ بـ balanced ما لم يكن أحد متطلبات الإنتاج أهم بوضوح من بقية المتطلبات. اضبط القيمة الافتراضية لمساحة العمل من لوحة التحكم -> الإعدادات -> التوجيه. استخدم الإعدادات المسبقة عندما يحتاج سير عمل إلى سياسة مزوّد أو نموذج أضيق من القيمة الافتراضية لمساحة العمل.

لواحق توجيه النماذج

أضف لاحقة توجيه عندما تريد أن يحدد معرّف النموذج نفسه وضع التحسين لهذا الطلب: على سبيل المثال، يعطي openai/gpt-5-mini:nitro الأولوية لمعدل النقل. تتقدم لاحقة التوجيه المعروفة على routing.mode أو provider.sort في الطلب، وعلى أوضاع التوجيه في الإعداد المسبق ومساحة العمل. وتظل القيود الأخرى سارية، مثل قوائم المزوّدين المسموح بهم والمتطلبات الإقليمية والضوابط والحدود القصوى للأسعار.

آلية عمل التوجيه باختصار

  • ترسل طلبًا يتضمن معرّف نموذج.
  • تقيّم Gateway صحة المزوّدين وزمن الاستجابة وتغطية الإمكانات.
  • يتم اختيار مزوّد وتنفيذ الطلب.
عند استكشاف مشكلات التوجيه، راجع نتائج الطلب في سجلات النشاط والبيانات الوصفية للاستجابة.

اختيار نموذج باستخدام الموجّه التلقائي

التوجيه التلقائي متاح حاليًا كميزة Alpha لمساحات عمل محددة. استخدم phaseo/auto عندما ينبغي للنموذج أن يتغير حسب عبء العمل. تبدأ Phaseo من كل نماذج النص المؤهلة للإنتاج، ثم تطبّق قيود مساحة العمل وتنشئ قائمة مختصرة تناسب عبء العمل:
  1. افتح لوحة التحكم -> الإعدادات -> التوجيه -> التوجيه التلقائي.
  2. اختر تحسين الأداء المتوازن أو الجودة أو التكلفة أو زمن الاستجابة.
  3. اختر ملف إنفاق اقتصادي أو قياسي أو متميز أو غير مقيّد. تفرض هذه الملفات حدودًا ثابتة لأسعار الإدخال والإخراج قبل التقييم.
  4. اختياريًا، قلّص النماذج المؤهلة باستخدام أنماط مثل anthropic/* أو openai/gpt-5.* أو معرّف نموذج دقيق.
  5. اختر ما إذا كان بإمكان Phaseo تجربة النماذج التالية في الترتيب بعد إخفاق قابل لإعادة المحاولة.
  6. احفظ الإعدادات.
يمكن للتطبيقات بعد ذلك تفعيل الموجّه دون نسخ سياسة توجيه مساحة العمل إلى كل طلب:
لا يمكن للطلب تغيير هدف مساحة العمل أو ملف الإنفاق أو أنماط النماذج. وتستمر الطلبات ذات النموذج الثابت في تجاوز الموجّه التلقائي. يغيّر الهدف الأوزان النسبية لجودة النموذج وموثوقية المزوّد وزمن الاستجابة والسعر: تفرض ملفات الإنفاق حدودًا قصوى ثابتة لأسعار المستوى القياسي بالدولار الأمريكي لكل مليون رمز نصي: تحدد الحدود المخصصة سقفي الإدخال والإخراج مباشرة. ولا تدخل النماذج التي لا تُعرف أسعارها القياسية للنص ضمن مجموعة المرشحين المُدارة. لكل طلب phaseo/auto، تنشئ Phaseo طلبًا فرعيًا عاديًا عبر Gateway إلى نموذج تصنيف منخفض التكلفة ومثبّت. يستخدم الطلب الفرعي مساحة العمل وهوية الفوترة نفسيهما، ويظهر منفصلًا في سجلات الطلبات، ويحمل الوسم purpose=auto_routing_classifier ومعرّف الطلب الأصلي. يعيد المصنّف مزيجًا منظمًا لأنواع أعباء العمل ودرجة تعقيد وقيمة ثقة؛ ولا يختار نموذجًا مباشرة. تُضمّن حقائق الطلب الثابتة، مثل الأدوات والإخراج المنظم، في بيانات وصفية موثوقة. إذا أخفق طلب المصنّف أو انتهت مهلته أو أعاد بيانات غير صالحة، تستخدم Phaseo مصنّفًا محليًا حتميًا للكود أو الاستدلال أو استخدام الأدوات أو الإخراج المنظم أو الترجمة أو التلخيص أو الاستخدام العام بدلًا من إخفاق طلب التوليد. يمثل تعقيد المصنّف الحد الأدنى لقدرة النموذج المرجحة لإنتاج إجابة مقبولة وموثوقة. تضيف Phaseo هامشًا للقدرة، ثم تجمع ملاءمة المعايير مع هدف مساحة العمل والسعر وزمن الاستجابة وصحة المزوّد وموثوقيته. تتم فوترة طلب المصنّف وطلب التوليد المحدد كلٌّ على حدة عبر مسار Gateway المعتاد. قبل التقييم، يجب أن يجتاز كل نموذج مسموح به فحوصات نقطة النهاية ونموذج مساحة العمل والمزوّد والخصوصية والضوابط وقاطع الدائرة المعتادة. بعد ذلك، يجمع الموجّه معايير كتالوج Phaseo ذات الصلة وغير المبلّغ عنها ذاتيًا من المزوّد مع بيانات صحة مزوّدي Phaseo الحالية وزمن الاستجابة والأسعار. ويُعامل غياب بيانات المعايير أو التشغيل بحياد، ولا يؤدي إلى توسيع قائمة السماح. يحدد حقل الاستجابة model النموذج المختار. تعرض تفاصيل الطلب عبء العمل والهدف والنموذج المختار وترتيب البدائل ودرجات المرشحين والعوامل ومعرّفات المعايير والاستبعادات وإصدار الخوارزمية. ولا تحتوي سجلات التوجيه على محتوى الطلب أو الاستجابة. إذا كانت بدائل النماذج مفعّلة في مساحة العمل، تعيد Phaseo المحاولة باستخدام النماذج التالية في الترتيب عند تلقي 429 أو 500 أو 502 أو 503 أو 504. ويمر كل بديل مجددًا عبر مسار السياسة واختيار المزوّد كاملًا. ولا تغيّر أخطاء العميل النموذج. يتقدم نموذج ثابت اختارته قاعدة ديناميكية مرفقة. في هذه الحالة، تسجّل تفاصيل الطلب التجاوز وتُعطّل بدائل نماذج الموجّه التلقائي لهذا الطلب.
تتحكم ملفات الإنفاق وأنماط النماذج في الأهلية ولا تضمن الجودة. تحقّق من مزيج النماذج الناتج باستخدام أعباء العمل الخاصة بك.

تفسير قرار التوجيه

افتح لوحة التحكم -> الإعدادات -> الاستخدام -> سجلات الطلبات، وحدد طلبًا، ثم وسّع قابلية رصد التوجيه ضمن استجابات المزوّدين. يعرض سجل الطلب:
  • جميع المزوّدين المصنّفين ودرجاتهم النهائية
  • المزوّد الذي اختارته Phaseo والمزوّدين الذين جرت تجربتهم
  • المزوّدين المستبعدين قبل التصنيف والسبب المسجّل
  • المزوّدين الذين خُفّض ترتيبهم بسبب حالة النشر أو التوجيه
  • مدخلات التقييم وأوزانه ومساهماته ومضاعفاته لكل مزوّد مصنّف
تُعرض عوامل التقييم منفصلة عن السياق المسجّل. يغيّر عامل التقييم الدرجة النهائية لوضع التوجيه النشط. يساعد السياق المسجّل على تفسير القرار لكنه لا يؤثر بالضرورة في الدرجة. في وضع التوجيه balanced، تقيّم Phaseo المزوّدين المؤهلين استنادًا إلى الموثوقية وزمن الاستجابة وذيله ومعدل النقل والسعر وملاءمة الرموز. يوضح الحساب المعروض مساهمة كل عامل في الدرجة النهائية بدلًا من عرض جميع المقاييس المسجلة كأن لها الأهمية نفسها.

الموثوقية ومدة تشغيل المزوّد

عينة الموثوقية هي القيمة المستخدمة في التقييم. وتُحسب من نتائج المزوّد؛ بينما يُعرض معدل النجاح كسياق مساعد. تقلل النتائج التالية مدة تشغيل المزوّد:
  • إخفاقات المصادقة (401)
  • إخفاقات الدفع (402)
  • استجابات النموذج غير موجود (404)
  • أخطاء الخادم (500 وما فوق)
  • الأخطاء بعد بدء تدفق الاستجابة
  • استجابات HTTP الناجحة التي تنتهي بسبب خطأ
ولا تقلل النتائج التالية مدة تشغيل المزوّد:
  • الطلبات غير الصالحة (400)
  • القيود الجغرافية (403)
  • الحمولات كبيرة الحجم (413)
  • حدود المعدل (429)
تُتتبّع القيود الجغرافية وحدود المعدل منفصلة لأنها لا تدل على أن المزوّد نفسه غير متاح.

توفر السجلات والخصوصية

تتوفر سجلات التوجيه الكاملة للطلبات التي أُجريت بعد تفعيل قابلية رصد التوجيه. وقد تعرض الطلبات الأقدم سجلًا جزئيًا أو لا تعرض تفاصيل توجيه. سجلات التوجيه محدودة ولا تتضمن محتوى. فهي تحتوي على الأرقام والحالات اللازمة لتفسير اختيار المزوّد، لكنها لا تنسخ المطالبات أو الرسائل أو المحتوى المُنشأ إلى السجل.

تحديد مزوّد بعينه في معرّف النموذج

استخدم <provider-id>:<canonical-model-id> عندما يجب أن يستخدم الطلب زوجًا محددًا من المزوّد والنموذج:
يعطّل المعرّف المؤهل الانتقال إلى مزوّد آخر لهذا الطلب. وتظل اللواحق جزءًا من معرّف النموذج القياسي، بما في ذلك معرّفات مثل baseten:google/gemma-4-26b-a4b:free. راجع معرّفات النماذج المؤهلة بمزوّد للاطلاع على الصياغة الكاملة والتحقق من المسارات المجانية وأولوية التوجيه والأسماء البديلة ورموز الأخطاء وأمثلة الطلبات.

التحكم في التوجيه والبدائل الاحتياطية

عناصر التحكم العامة الحالية في التوجيه والبدائل صريحة عمدًا:

الإعدادات المسبقة تقيّد مجموعة البدائل

في لوحة التحكم -> الإعدادات -> الإعدادات المسبقة، يمكنك تحديد:
  • النماذج المسموح بها
  • قوائم المزوّدين المسموح بهم
  • قوائم المزوّدين المستثنين
  • السلوك الافتراضي للمطالبات والمعلمات
تُطبّق هذه القيود قبل اختيار المزوّد، لذا يمكن للإعداد المسبق تضييق المزوّدين المؤهلين لإعادة المحاولة والتحويل الاحتياطي عمدًا.

يغيّر وضع التوجيه ترتيب المزوّدين

في لوحة التحكم -> الإعدادات -> التوجيه، يمكن لمساحات العمل ضبط كيفية ترتيب Gateway للمزوّدين المتوافقين:
  • balanced
  • price
  • latency
  • throughput
تعرض الصفحة نفسها مفاتيح لقنوات beta وalpha لإدخال حركة مرور المعاينة عمدًا بدلًا من ظهورها أثرًا جانبيًا غير متعقّب للتوجيه.

البديل الاحتياطي لـ BYOK صريح

في لوحة التحكم -> الإعدادات -> BYOK، يمكن للفِرق اختيار السماح للطلب الفاشل باستخدام رصيد Phaseo كبديل أم لا. وهذا هو عنصر التحكم العام الحالي للسؤال الشائع: «فشل المفتاح الخاص بي، فهل ينبغي أن يكتمل الطلب رغم ذلك؟».

تربط المسارات الديناميكية السياسات بمفاتيح API

أنشئ مسارًا ديناميكيًا من لوحة التحكم -> الإعدادات -> التوجيه عندما تحتاج مفاتيح API أو فئات الطلبات المختلفة إلى سلوك مختلف للمزوّدين. يمكن للمسار أن:
  • يتفرع استنادًا إلى حقول متداخلة في جسم الطلب أو رؤوس الطلب أو البيانات الوصفية المخصصة أو نقطة النهاية أو النموذج أو معرّف الجلسة
  • يوزع الحركة بنسب مئوية لاختبارات A/B وعمليات الطرح التدريجي
  • يفرض حدودًا يومية أو أسبوعية أو شهرية للطلبات والتكلفة باستخدام مجموعات استخدام المفتاح المصادق عليه
  • يستدعي نموذجًا آخر ويحدد وضع توجيهه وتفضيل المزوّد وسياسة البدائل
  • يفعّل الألفة مع المزوّد وفقًا لذاكرة التخزين المؤقت والجلسة
  • يرتبط بمفتاح استدلال API واحد أو أكثر
تنتج الشروط مخرجات صحيحة وخاطئة. وتنتج عُقد المعدل والميزانية مخرجات ضمن الحد ومتجاوز. ويكون الاختيار بالنسبة المئوية حتميًا لكل جلسة أو مفتاح لذاكرة المطالبات المؤقتة، لذلك لا تنتقل المحادثة نفسها المخزنة مؤقتًا عشوائيًا بين الفروع أثناء الطرح التدريجي. ينشئ الحفظ إصدار مسودة غير قابل للتغيير. يؤدي نشر إصدار محدد إلى نسخ تلك اللقطة إلى Gateway وإبطال ذاكرات السياسات المؤقتة للمفاتيح المرتبطة. وتظل الإصدارات السابقة متاحة للتراجع. تظهر توصيات صحة المزوّد التشغيلية ضمن Insights بصورة منفصلة عن محرر التدفق. تتوفر البيانات الوصفية المخصصة على واجهات استدلال النص المتوافقة مع OpenAI:

سلوك البدائل الاحتياطية

إذا أعاد مزوّد أخطاء أو حدود معدل، فيمكن لـ Gateway إعادة المحاولة أو توجيه الطلب إلى مزوّد آخر يدعم النموذج نفسه. ومع ذلك، ينبغي لك معالجة استجابات 429 و5xx باستخدام تراجع أسي. يمكن لعُقد النموذج في المسار الديناميكي أيضًا تعريف قائمة مرتبة من النماذج البديلة. تستنفد Phaseo أولًا محاولات المزوّدين المؤهلين للنموذج المحدد. إذا كانت الاستجابة الناتجة قابلة لإعادة المحاولة (429 أو 500 أو 502 أو 503 أو 504)، يعيد Gateway تشغيل مسار السياسة واختيار المزوّد كاملًا لكل نموذج بديل بالترتيب. وتُعاد أخطاء العميل فورًا ولا تغيّر النموذج. يُفحص كل بديل بصورة مستقلة وفق قيود نماذج مساحة العمل والضوابط وسياسة المزوّد والتسعير ودعم الإمكانات. ويمكن للمسار حفظ ما يصل إلى ثمانية نماذج بديلة. اقرأ المزيد:

الألفة وفقًا لذاكرة التخزين المؤقت والجلسة

يكون التوجيه المدرك لذاكرة التخزين المؤقت مفعّلًا افتراضيًا على نقاط نهاية توليد النص. بعد أن يبلغ المزوّد عن قراءة فعلية لذاكرة المطالبات المؤقتة، تثبّت Phaseo السياق المطابق على ذلك المزوّد لمدة 15 دقيقة، بشرط أن يظل المزوّد سليمًا ومسموحًا به وفق المسار والإعداد المسبق والضوابط وسياسة الطلب النشطة. عند وجود session_id، ترتبط ألفة ذاكرة التخزين المؤقت بالجلسة بدلًا من السياق الأولي وحده. وتُحدّث Phaseo هذه الألفة عند رصد قراءة أخرى لذاكرة التخزين المؤقت وتحتفظ بها حتى 24 ساعة من نشاط الجلسة. وتظل قواطع الدائرة ومرشحات السياسات مقدّمة دائمًا على الألفة. عطّلها لطلب واحد دون تغيير القيم الافتراضية لمساحة العمل أو المسار الديناميكي:
للاحتفاظ بألفة ذاكرة السياق المؤقتة مع تجاهل معرّف الجلسة لطلب واحد، استخدم:

اعتبارات BYOK

استخدم BYOK عندما تريد التوجيه وقابلية الرصد من Phaseo مع فوترة المزوّد المحدد لاستخدام النموذج على حسابك الخاص.
  • لا تُفرض رسوم خدمة Phaseo على أول 250,000 طلب BYOK مكتمل في كل شهر تقويمي وفق UTC.
  • بعد هذا الحد، تفرض Phaseo نسبة 2.5% من التكلفة المكافئة لدى المزوّد.
  • احتفظ برصيد Phaseo لا يقل عن دولار واحد. فهذا يغطي البدائل المُدارة وتحصيل الرسوم بعد تجاوز الحد؛ وتظل رسوم المزوّد تُخصم مباشرة من حسابك لديه.
  • تظل حصص المزوّد وسياسة البيانات والوصول إلى النماذج وقيود الحساب سارية.
تُشفّر بيانات اعتماد المزوّد باستخدام AES-256-GCM وتُربط بمساحة العمل والمزوّد قبل تخزينها. قيّد كل مفتاح بالنماذج ومفاتيح Phaseo API التي تحتاج إليه، وعطّل البدائل المُدارة إذا كان يجب ألا يستخدم الطلب رصيد Phaseo مطلقًا.

ما ينبغي تسجيله

سجّل معرّفات الطلبات ورموز حالة الاستجابة ومعرّفات النماذج لأعباء الإنتاج حتى تتمكن من ربط الإخفاقات والتحقق من سلوك التوجيه عند استكشاف الأخطاء.

الأدلة ذات الصلة

آخر تعديل في ٢ أكتوبر ٢٠٢٦