レッスン 2/3 · 7 分

トークンとコンテキスト

モデルはトークンを読み書きし、送受信するすべてのトークンが時間とコストを増やします。

モデルは、人と同じようには単語を読みません。テキストを トークン に分割します。トークンは単語の一部、短い単語全体、スペース、句読点などの短い単位です。長い単語は複数のトークンになることがあります。モデルが読める量の上限から支払う料金まで、すべてがトークンで数えられます。

コンテキストウィンドウは、モデルが一度に読める量です。 1 つのリクエストに含まれるすべてが入ります。指示、それまでの会話、ドキュメントや検索結果、ツールの定義、そしてモデルが書く回答です。各プロバイダーのルートには独自の コンテキスト長 があり、モデルのページに表示されます。

入力トークンと出力トークンは別々に数えられます。

種類含まれるもの
入力指示、あなたのメッセージ、ドキュメント、ツールの定義
出力回答と、推論モデルの思考

モデルは出力トークンを 1 つずつ書く必要があるので、通常は出力のほうが入力よりトークンあたりの料金が高くなります。Phaseo では、テキストの価格は 100 万トークンあたりの USD で、入力と出力の価格が別々に表示されます。各レスポンスの usage フィールドには、使ったトークン数が示されます。

出力の上限に達すると、回答は途中で止まります。 出力の上限は max_tokens(Chat Completions と Messages)または max_output_tokens(Responses)で設定できます。これでコストと待ち時間を抑えられます。ただし上限が小さすぎると、回答が途中で切れ、レスポンスは finish_reason: "length" で終わります。これはモデルの失敗ではありません。上限を上げるか、推論の努力度を下げてください。

プロンプトキャッシュで、繰り返しの入力が安くなります。 長い指示や参照ドキュメントなど、プロンプトの冒頭がリクエスト間で同じであれば、プロバイダーはそれをキャッシュから読み込めます。そのトークンには、より安いキャッシュ読み取りの料金が適用され、最初のトークンも早く届きます。ほとんどのプロバイダーは、繰り返される冒頭を自動でキャッシュします。Claude は、cache_control で指定した部分だけをキャッシュします。

理解度チェック

レスポンスが文の途中で止まり、finish_reason が "length" です。何が起きましたか?

実践してみる

サポートボットは、毎回のリクエストの冒頭で同じ 20 ページのポリシー文書を送り、その後に顧客の質問を続けています。請求額の大半は入力トークンです。何ができますか?

答えを表示

ポリシーをプロンプトの冒頭に、変更せずに置いておけば、プロバイダーがキャッシュできます。そうすれば繰り返しの入力にはキャッシュ読み取りの料金が適用され、回答も早く始まります。Claude では、ポリシーの終わりを cache_control で指定します。文書を必要な部分だけに絞ることもできます。

ポイント

すべてはトークンで数えられます。入力と出力は 100 万トークンあたりで別々に価格が付き、出力の上限で回答が途中で切れることがあり、キャッシュで繰り返しの入力が安くなります。

関連リンク

進捗はこのブラウザーに保存されます。

最終確認日:2026年11月17日