Documentation Index
Fetch the complete documentation index at: /docs/llms.txt
Use this file to discover all available pages before exploring further.
Decoding strategies और penalties model outputs को कैसे आकार देते हैं।
| Control | उद्देश्य | टिप्पणियाँ |
|---|---|---|
temperature | randomness का global control | अक्सर सबसे पहले tune किया जाता है |
top_p | cumulative probability mass सीमित करता है | अक्सर moderate temperature के साथ |
top_k | सबसे अधिक probability वाले tokens तक चयन सीमित करता है | हर provider पर उपलब्ध नहीं |
frequency_penalty | tokens/phrases की पुनरावृत्ति को हतोत्साहित करता है | बार-बार दोहराने वाले loops घटाने में सहायक |
presence_penalty | नए tokens/topics लाने को प्रोत्साहित करता है | व्यापक exploration में उपयोगी |
repetition_penalty | दोहराए गए text patterns पर penalty (provider/model पर निर्भर) | लक्ष्य समान, implementation semantics अलग |
| उपयोग का मामला | सुझाया गया profile |
|---|---|
| Deterministic extraction/classification | कम temperature (0.0 से 0.2), narrow sampling |
| Balanced assistant output | मध्यम temperature (0.3 से 0.7), top_p लगभग 0.9 से 1.0 |
| Creative generation | अधिक temperature और व्यापक sampling, साथ में कड़ा evaluation |
वाज़ दिस पेज हेल्पफुल
