الرموز والسياق
تقرأ النماذج الرموز وتكتبها، وكل رمز ترسله أو تستقبله يضيف وقتًا وتكلفة.
لا تقرأ النماذج الكلمات كما تقرؤها أنت. فهي تقسّم النص إلى رموز: أجزاء قصيرة من الكلمات، وكلمات قصيرة كاملة، ومسافات وعلامات ترقيم. قد تكون الكلمة الطويلة عدة رموز. كل شيء يُحتسب بالرموز، من حدود ما يستطيع النموذج قراءته إلى السعر الذي تدفعه.
نافذة السياق هي مقدار ما يستطيع النموذج قراءته دفعة واحدة. وتضم كل شيء في الطلب الواحد: تعليماتك، والمحادثة حتى الآن، وأي مستندات أو نتائج بحث، وتعريفات الأدوات، والإجابة التي يكتبها النموذج. لكل مسار مزوّد طول سياق خاص به، يظهر في صفحة النموذج.
رموز الإدخال والإخراج تُحتسب كلٌّ على حدة:
| النوع | ما يتضمنه |
|---|---|
| الإدخال | التعليمات ورسائلك والمستندات وتعريفات الأدوات |
| الإخراج | الإجابة، إضافة إلى تفكير نموذج الاستدلال |
عادةً يكلّف الإخراج أكثر لكل رمز من الإدخال، لأن النموذج يكتب كل رمز إخراج واحدًا تلو الآخر. في Phaseo، تُعرض أسعار النص بالدولار الأمريكي لكل مليون رمز، مع سعرين منفصلين للإدخال والإخراج. ويبيّن الحقل usage في كل استجابة عدد الرموز التي استخدمتها.
حدود الإخراج توقف الإجابات مبكرًا. يمكنك وضع سقف للإخراج بـ max_tokens (في Chat Completions وMessages) أو max_output_tokens (في Responses). يُبقي هذا التكلفة ووقت الانتظار منخفضين. لكن إذا كان الحد صغيرًا جدًا، تُقطع الإجابة وتنتهي الاستجابة بـ finish_reason: "length". هذا ليس فشلًا في النموذج: ارفع الحد، أو اخفض جهد الاستدلال.
التخزين المؤقت للموجّهات يجعل المدخلات المتكررة أرخص. إذا بقيت بداية موجّهك كما هي عبر الطلبات، مثل تعليمات طويلة أو مستند مرجعي، يستطيع المزوّد قراءتها من ذاكرته المؤقتة. تُحتسب هذه الرموز بسعر القراءة من الذاكرة المؤقتة الأقل، ويصل أول رمز أسرع. معظم المزوّدين يخزّنون البدايات المتكررة تلقائيًا، أما Claude فلا يخزّن إلا ما تحدده بـ cache_control.
تحقّق من فهمك
تتوقف استجابة في منتصف جملة، وقيمة finish_reason هي "length". ماذا حدث؟
طبّق ما تعلّمته
يرسل روبوت الدعم لديك مستند السياسات نفسه المكوّن من 20 صفحة في بداية كل طلب، يليه سؤال العميل. معظم فاتورتك رموز إدخال. ماذا يمكنك أن تفعل؟
اعرض الإجابةأخفِ الإجابة
أبقِ مستند السياسات في بداية الموجّه دون تغيير، كي يستطيع المزوّد تخزينه مؤقتًا. عندها تُحتسب المدخلات المتكررة بسعر القراءة من الذاكرة المؤقتة وتبدأ الإجابات أسرع. في Claude، حدّد نهاية المستند بـ cache_control. ويمكنك أيضًا اختصار المستند إلى الأجزاء المهمة.
الخلاصة
روابط ذات صلة
آخر مراجعة: ١٧ نوفمبر ٢٠٢٦