Pular para o conteúdo principal
Defina stream: true e o Gateway envia a saída como server-sent events (SSE) enquanto o modelo a escreve. Um stream só termina quando chega o evento final de sucesso. Pressione Reproduzir para assistir a um e depois mude para Falha no meio para ver como termina um stream interrompido.

Enviar uma solicitação com streaming

Confira o status HTTP antes de ler o corpo. Uma solicitação que falha antes de o streaming começar recebe a resposta de erro JSON normal, não um stream. Mantenha a sua chave de API do Phaseo no seu servidor e encaminhe o texto para a sua interface a partir dele.

Ler os eventos

Cada endpoint usa o próprio formato de evento: Os eventos são separados por linhas em branco, mas um bloco recebido pela rede pode conter meio evento ou vários. Acumule os dados até cada evento ficar completo antes de interpretá-lo como JSON, ou use um helper do SDK, que faz isso por você:
  • TypeScript: streamResponses(), streamChat(), streamMessages(); Python: stream_responses(), stream_chat(), stream_message() (guia de uso)
  • Vercel AI SDK: streamText() com @phaseo/ai-sdk-provider
Só o Chat Completions envia [DONE]. Não espere por ele nos outros endpoints.

Transmitir chamadas de ferramenta

As chamadas de ferramenta chegam como deltas de argumentos, do mesmo jeito que o texto. Se um modelo as transmite ou não depende do modelo e do provedor. Junte os deltas até a chamada ficar completa e depois interprete, valide e autorize os argumentos. Nunca execute uma ferramenta com argumentos parciais. Veja os padrões de chamadas de ferramentas para enviar os resultados de volta e a segurança de ferramentas para validação e aprovação.

Cancelar um stream

Passe um AbortSignal (ou o equivalente do seu cliente HTTP) e cancele quando o usuário parar ou se desconectar. Defina um prazo adequado à carga de trabalho. Cancelar não garante que o provedor pare na hora, nem que a saída que ele já gerou seja gratuita.

Recuperar-se de um stream interrompido

Se um stream falhar depois que o texto começou, ele termina com o evento de falha da tabela acima em vez do evento de sucesso. Uma conexão fechada, por si só, não significa que a resposta está completa. O Phaseo não cobra pela saída parcial de um stream que falha. Quando isso acontecer:
  1. Mantenha o texto parcial na tela, marcado como interrompido.
  2. Registre o ID da solicitação ou da geração, o endpoint e o modelo.
  3. Ofereça uma nova tentativa. Uma nova solicitação pode produzir outro texto e é cobrada de novo.
  4. Não repita ferramentas que já foram executadas e não acrescente a resposta da nova tentativa à parcial.
Para falhas antes de qualquer texto chegar, tente de novo com backoff e respeite os cabeçalhos de limite de taxa. Se você precisa validar a resposta inteira antes que alguém a veja, use uma solicitação sem streaming ou acumule o stream no seu servidor.
Última modificação em 5 de novembro de 2026