temperature وtop_p وحدًّا للمخرجات في كل طلب لتوازن بين التنوع وقابلية التكرار، وبين الطول والتكلفة. يحدد تكميم النموذج سقف الجودة؛ وتحدد هذه المعلمات كيف يختار النموذج كل رمز تالٍ ضمن هذا السقف.
تحكّم في العشوائية
تغيّر كل من
temperature وtop_p العشوائية، لذا اضبط واحدة في كل مرة. قد يجعل النموذج المكمَّم بعدد بتات منخفض مع عشوائية عالية المخرجات أقل استقرارًا بشكل ملحوظ.
قلّل التكرار
حدّد المخرجات وأوقفها
حد المخرجات هوmax_tokens في Chat Completions وAnthropic Messages، وmax_output_tokens في Responses. يضع سقفًا للتكلفة وزمن الاستجابة؛ وإذا ضبطته منخفضًا جدًا فستُقتطع الإجابة. الاستجابة التي تتوقف مبكرًا مع finish_reason: "length" بلغت حد المخرجات؛ وليست إخفاقًا من النموذج.
يأخذ stop تسلسلات تُنهي المخرجات، ما يسهّل تأطير المخرجات وتحليلها. راجع طول المخرجات والإيقاف لمعرفة حقول كل نقطة نهاية.
عندما لا يدعم المزوّد معلمة ما
لا يدعم كل المزوّدينtop_k أو seed أو stop أو العقوبات. إذا لم يدعمها المزوّد الذي يخدم الطلب، يُسقط Phaseo تلك المعلمة بدلًا من رفض الطلب، ويدرجها في ترويسة الاستجابة X-Phaseo-Dropped-Params. لا تُسقط حدود المخرجات أبدًا. راجع المعلمات غير المدعومة للاطلاع على القائمة الكاملة.
ابدأ من هذه القيم
اضبط
max_tokens وفق المخرجات المتوقعة لكل مهمة، لا قيمة كبيرة واحدة لكل شيء. واضبط كل مهمة على حدة بدلًا من ملف واحد لكل شيء. في المهام الإبداعية، ارفع العشوائية تدريجيًا وراجع المخرجات يدويًا.
تعرّف على الإعداد السيئ
اضبط المعلمات
1
اختر النموذج والتكميم أولًا
راجع التكميم.
2
ثبّت مجموعة تقييم
استخدم الموجّهات نفسها في كل تشغيل لتكون النتائج قابلة للمقارنة.
3
غيّر معلمة واحدة في كل مرة
قارن الجودة وزمن الاستجابة واستخدام الرموز لكل قيمة.
4
احفظ النتيجة لكل مهمة
احتفظ بـ إعدادات مسبقة منفصلة لكل نقطة نهاية أو حالة استخدام، ليرث المستدعون القيم الافتراضية المضبوطة.