Faça streaming
Mostre a resposta enquanto ela é escrita e diferencie um stream concluído de um interrompido.
Defina "stream": true e o Phaseo envia a saída como server-sent events (SSE) enquanto o modelo a escreve:
curl --no-buffer https://api.phaseo.app/v1/responses \
-H "Authorization: Bearer $PHASEO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "openai/gpt-6-astra",
"input": "Say hello in one sentence.",
"stream": true
}'
Confira primeiro o status HTTP. Uma solicitação que falha antes de o stream começar recebe o erro JSON normal, não um stream. Depois leia os eventos. Cada endpoint tem o próprio formato:
| Endpoint | O texto chega em | Fim com sucesso | Fim com falha |
|---|---|---|---|
| Responses | response.output_text.delta | response.completed | response.failed ou error |
| Chat Completions | choices[].delta | um finish_reason e depois [DONE] | um frame error sem finish_reason |
No Chat Completions, um último chunk com choices vazio traz usage, incluindo o cost do stream inteiro, antes de [DONE]. Só o Chat Completions envia [DONE]. Um chunk de rede pode conter meio evento ou vários, então acumule os dados até um evento ficar completo antes de interpretá-lo, ou use um auxiliar de stream do SDK.
Um stream só está concluído quando chega o evento de fim com sucesso. Uma conexão fechada, por si só, não significa que a resposta está completa. Se ele falhar no meio, guarde o texto parcial marcado como interrompido e ofereça uma nova tentativa; o Phaseo não cobra a saída parcial de um stream que falha.
Para cancelar, passe um AbortSignal (ou o equivalente do seu cliente HTTP) e aborte quando o usuário parar. Cancelar não garante que o provedor pare na hora, nem que a saída já gerada seja gratuita.
Confira o que você aprendeu
O seu stream de Chat Completions entregou texto e então a conexão fechou. Você não viu nenhum finish_reason nem [DONE]. O que você faz?
Aplique
Os usuários podem apertar Parar na interface do seu chat. O seu gerente de produto acha que as respostas interrompidas não custam nada. Ele está certo?
Mostrar a respostaOcultar a resposta
Não. Aborte a solicitação com um AbortSignal para o seu app parar de ler, mas a documentação diz que cancelar não garante que o provedor pare na hora, nem que a saída já gerada seja gratuita. Conte com a cobrança do trabalho já feito nas respostas interrompidas.
Resumo
Links relacionados
Verificado em 17 de novembro de 2026