Lição 4 de 4 · 9 minutos

Faça streaming

Mostre a resposta enquanto ela é escrita e diferencie um stream concluído de um interrompido.

Defina "stream": true e o Phaseo envia a saída como server-sent events (SSE) enquanto o modelo a escreve:

curl --no-buffer https://api.phaseo.app/v1/responses \
  -H "Authorization: Bearer $PHASEO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-6-astra",
    "input": "Say hello in one sentence.",
    "stream": true
  }'

Confira primeiro o status HTTP. Uma solicitação que falha antes de o stream começar recebe o erro JSON normal, não um stream. Depois leia os eventos. Cada endpoint tem o próprio formato:

EndpointO texto chega emFim com sucessoFim com falha
Responsesresponse.output_text.deltaresponse.completedresponse.failed ou error
Chat Completionschoices[].deltaum finish_reason e depois [DONE]um frame error sem finish_reason

No Chat Completions, um último chunk com choices vazio traz usage, incluindo o cost do stream inteiro, antes de [DONE]. Só o Chat Completions envia [DONE]. Um chunk de rede pode conter meio evento ou vários, então acumule os dados até um evento ficar completo antes de interpretá-lo, ou use um auxiliar de stream do SDK.

Um stream só está concluído quando chega o evento de fim com sucesso. Uma conexão fechada, por si só, não significa que a resposta está completa. Se ele falhar no meio, guarde o texto parcial marcado como interrompido e ofereça uma nova tentativa; o Phaseo não cobra a saída parcial de um stream que falha.

Para cancelar, passe um AbortSignal (ou o equivalente do seu cliente HTTP) e aborte quando o usuário parar. Cancelar não garante que o provedor pare na hora, nem que a saída já gerada seja gratuita.

Confira o que você aprendeu

O seu stream de Chat Completions entregou texto e então a conexão fechou. Você não viu nenhum finish_reason nem [DONE]. O que você faz?

Aplique

Os usuários podem apertar Parar na interface do seu chat. O seu gerente de produto acha que as respostas interrompidas não custam nada. Ele está certo?

Mostrar a resposta

Não. Aborte a solicitação com um AbortSignal para o seu app parar de ler, mas a documentação diz que cancelar não garante que o provedor pare na hora, nem que a saída já gerada seja gratuita. Conte com a cobrança do trabalho já feito nas respostas interrompidas.

Resumo

Espere o evento de fim com sucesso do endpoint, trate qualquer outra coisa como interrompida e não assuma que um stream cancelado é gratuito.

Links relacionados

O progresso fica salvo neste navegador.

Verificado em 17 de novembro de 2026