ストリーミングする
返答を書かれるそばから表示し、完了したストリームと途切れたストリームを見分けます。
"stream": true を設定すると、Phaseo はモデルが書いている間に、出力を Server-Sent Events(SSE)として送ります。
curl --no-buffer https://api.phaseo.app/v1/responses \
-H "Authorization: Bearer $PHASEO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "openai/gpt-6-astra",
"input": "Say hello in one sentence.",
"stream": true
}'
まず HTTP ステータスを確認します。ストリームが始まる前に失敗したリクエストには、ストリームではなく通常の JSON エラーが返ります。次にイベントを読みます。形式はエンドポイントごとに異なります。
| エンドポイント | テキストが届く場所 | 正常な終了 | 失敗による終了 |
|---|---|---|---|
| Responses | response.output_text.delta | response.completed | response.failed または error |
| Chat Completions | choices[].delta | finish_reason の後に [DONE] | finish_reason のない error フレーム |
Chat Completions では、[DONE] の前に、choices が空の最後のチャンクが usage を運びます。これにはストリーム全体の cost も含まれます。[DONE] を送るのは Chat Completions だけです。ネットワークのチャンクには、イベントの半分や複数のイベントが入っていることがあるので、イベントが揃うまでバッファーしてから解析するか、SDK のストリームヘルパーを使ってください。
ストリームが完了したと言えるのは、正常な終了イベントが届いたときだけです。接続が閉じただけでは、回答が揃ったことにはなりません。途中で失敗した場合は、途中までのテキストを中断扱いとして残し、再試行を提案します。失敗したストリームの途中までの出力に、Phaseo は課金しません。
キャンセルするには、AbortSignal(または HTTP クライアントの同等の仕組み)を渡し、ユーザーが停止したときに中止します。キャンセルしても、プロバイダーがすぐに止まることや、すでに生成された出力が無料になることは保証されません。
理解度チェック
Chat Completions のストリームでテキストが届いた後、接続が閉じました。finish_reason も [DONE] も見ていません。どうしますか?
実践してみる
チャット UI では、ユーザーが 停止 を押せます。プロダクトマネージャーは、停止した返答には費用がかからないと思っています。正しいですか?
答えを表示答えを隠す
いいえ。AbortSignal でリクエストを中止すればアプリは読み取りをやめますが、ドキュメントにあるとおり、キャンセルしてもプロバイダーがすぐに止まることや、すでに生成された出力が無料になることは保証されません。停止した返答にも、すでに行われた処理の分は課金されると考えてください。
ポイント
関連リンク
最終確認日:2026年11月17日