Lección 4 de 4 · 9 minutos

Usa streaming

Muestra la respuesta a medida que se escribe y distingue un stream terminado de uno interrumpido.

Pon "stream": true y Phaseo envía la salida como eventos enviados por el servidor (SSE) mientras el modelo la escribe:

curl --no-buffer https://api.phaseo.app/v1/responses \
  -H "Authorization: Bearer $PHASEO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-6-astra",
    "input": "Say hello in one sentence.",
    "stream": true
  }'

Comprueba primero el estado HTTP. Una solicitud que falla antes de que empiece el stream recibe el error JSON normal, no un stream. Después lee los eventos. Cada endpoint tiene su propio formato:

EndpointEl texto llega enFinal correctoFinal con error
Responsesresponse.output_text.deltaresponse.completedresponse.failed o error
Chat Completionschoices[].deltaun finish_reason y después [DONE]un frame error sin finish_reason

En Chat Completions, antes de [DONE] llega un último fragmento con choices vacío que lleva usage, incluido el cost de todo el stream. Solo Chat Completions envía [DONE]. Un fragmento de red puede contener medio evento o varios, así que acumula los datos hasta tener un evento completo antes de analizarlo, o usa un helper de streaming de un SDK.

Un stream solo ha terminado cuando llega su evento de final correcto. Que la conexión se cierre no significa por sí solo que la respuesta esté completa. Si falla a mitad, conserva el texto parcial marcado como interrumpido y ofrece reintentar; Phaseo no cobra la salida parcial de un stream que falla.

Para cancelar, pasa un AbortSignal (o el equivalente de tu cliente HTTP) y cancela cuando el usuario se detenga. Cancelar no garantiza que el proveedor se detenga de inmediato ni que la salida ya generada sea gratuita.

Comprueba lo que has aprendido

Tu stream de Chat Completions ha enviado texto y después la conexión se cierra. Nunca viste un finish_reason ni [DONE]. ¿Qué haces?

Ponlo en práctica

Los usuarios pueden pulsar Detener en la interfaz de tu chat. Tu responsable de producto cree que las respuestas detenidas no cuestan nada. ¿Tiene razón?

Mostrar la respuesta

No. Cancela la solicitud con un AbortSignal para que tu aplicación deje de leer, pero la documentación indica que cancelar no garantiza que el proveedor se detenga de inmediato ni que la salida ya generada sea gratuita. Cuenta con que las respuestas detenidas se cobren por el trabajo ya hecho.

Idea clave

Espera al evento de final correcto del endpoint, trata cualquier otra cosa como interrumpida y no des por hecho que un stream cancelado es gratis.

Enlaces relacionados

El progreso se guarda en este navegador.

Revisado por última vez el 17 de noviembre de 2026