よく使う制御項目
よくあるプリセット
よくある失敗
- ランダム性が高すぎる:事実が一貫せず、構造化出力が不安定になる。
- 決定性が高すぎる:回答が繰り返しになったり、単調になったりする。
- ペナルティが強すぎる:不自然な表現や話題の脱線が起きる。
実践的なヒント
- デコードは全体ではなくタスクごとに調整します。
- 抽出やJSONタスクでは控えめな設定を使います。
- 創作的なタスクでは、ランダム性を少しずつ上げ、人によるレビューで評価します。
Documentation Index
Fetch the complete documentation index at: /docs/llms.txt
Use this file to discover all available pages before exploring further.
デコード戦略とペナルティがモデル出力に与える影響。
| 制御項目 | 目的 | 備考 |
|---|---|---|
temperature | ランダム性の全体的な制御 | 最初に調整することが多い項目 |
top_p | 累積確率質量を制限 | 中程度のtemperatureと組み合わせることが多い |
top_k | 上位K個のトークンに選択肢を制限 | すべてのプロバイダーで使えるわけではありません |
frequency_penalty | トークンやフレーズの繰り返しを抑制 | 同じ表現が続くループの抑制に役立つ |
presence_penalty | 新しいトークンや話題の導入を促進 | 幅広い探索に役立つ |
repetition_penalty | 繰り返されるテキストパターンにペナルティ(プロバイダー/モデルによる) | 目的は似ているが、実装上の意味は異なる |
| 用途 | 推奨プロファイル |
|---|---|
| 決定的な抽出/分類 | temperature低め(0.0~0.2)、選択範囲を狭める |
| バランスの取れたアシスタント出力 | temperature中程度(0.3~0.7)、top_pは0.9~1.0付近 |
| 創作的な生成 | temperatureを上げ、サンプリング範囲を広げつつ、評価を厳格にする |