レッスン 4/4 · 9 分

ストリーミングする

返答を書かれるそばから表示し、完了したストリームと途切れたストリームを見分けます。

"stream": true を設定すると、Phaseo はモデルが書いている間に、出力を Server-Sent Events(SSE)として送ります。

curl --no-buffer https://api.phaseo.app/v1/responses \
  -H "Authorization: Bearer $PHASEO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-6-astra",
    "input": "Say hello in one sentence.",
    "stream": true
  }'

まず HTTP ステータスを確認します。ストリームが始まる前に失敗したリクエストには、ストリームではなく通常の JSON エラーが返ります。次にイベントを読みます。形式はエンドポイントごとに異なります。

エンドポイントテキストが届く場所正常な終了失敗による終了
Responsesresponse.output_text.deltaresponse.completedresponse.failed または error
Chat Completionschoices[].deltafinish_reason の後に [DONE]finish_reason のない error フレーム

Chat Completions では、[DONE] の前に、choices が空の最後のチャンクが usage を運びます。これにはストリーム全体の cost も含まれます。[DONE] を送るのは Chat Completions だけです。ネットワークのチャンクには、イベントの半分や複数のイベントが入っていることがあるので、イベントが揃うまでバッファーしてから解析するか、SDK のストリームヘルパーを使ってください。

ストリームが完了したと言えるのは、正常な終了イベントが届いたときだけです。接続が閉じただけでは、回答が揃ったことにはなりません。途中で失敗した場合は、途中までのテキストを中断扱いとして残し、再試行を提案します。失敗したストリームの途中までの出力に、Phaseo は課金しません。

キャンセルするには、AbortSignal(または HTTP クライアントの同等の仕組み)を渡し、ユーザーが停止したときに中止します。キャンセルしても、プロバイダーがすぐに止まることや、すでに生成された出力が無料になることは保証されません。

理解度チェック

Chat Completions のストリームでテキストが届いた後、接続が閉じました。finish_reason も [DONE] も見ていません。どうしますか?

実践してみる

チャット UI では、ユーザーが 停止 を押せます。プロダクトマネージャーは、停止した返答には費用がかからないと思っています。正しいですか?

答えを表示

いいえ。AbortSignal でリクエストを中止すればアプリは読み取りをやめますが、ドキュメントにあるとおり、キャンセルしてもプロバイダーがすぐに止まることや、すでに生成された出力が無料になることは保証されません。停止した返答にも、すでに行われた処理の分は課金されると考えてください。

ポイント

エンドポイントの正常な終了イベントを待ち、それ以外は中断として扱い、キャンセルしたストリームが無料だとは考えないでください。

関連リンク

進捗はこのブラウザーに保存されます。

最終確認日:2026年11月17日