معلمات الاستدلال

​

المعلمات الأساسية

​

تفاعلات ينبغي الانتباه إليها

• تؤثر كل من temperature وtop_p في العشوائية. غيّر معلمة واحدة فقط في كل مرة أثناء الضبط.
• قد يؤدي الجمع بين التكميم الشديد بعدد بتات منخفض والعشوائية العالية إلى زيادة عدم استقرار المخرجات.
• قد تبدو قيمة max_tokens المنخفضة كأنها إخفاق من النموذج بينما تكون الإجابة مقتطعة فقط.

​

قيم بدء موصى بها

• temperature: من 0.2 إلى 0.7 بحسب مقدار الإبداع المطلوب
• top_p: من 0.9 إلى 1.0
• max_tokens: اضبطه وفق طول المخرجات المتوقع بدلًا من استخدام قيمة كبيرة موحدة

​

خطوات الضبط

1. اضبط التكميم أولًا.
2. ثبّت مجموعة التقييم.
3. غيّر معلمة واحدة في كل مرة.
4. قارن الجودة وزمن الاستجابة واستخدام الرموز.
5. احتفظ بإعدادات مسبقة منفصلة لكل نقطة نهاية وحالة استخدام.