Leçon 4 sur 4 · 9 minutes

Diffuser en streaming

Affichez la réponse au fil de sa rédaction, et distinguez un flux terminé d’un flux interrompu.

Définissez "stream": true et Phaseo envoie la sortie sous forme de server-sent events (SSE) pendant que le modèle l’écrit :

curl --no-buffer https://api.phaseo.app/v1/responses \
  -H "Authorization: Bearer $PHASEO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-6-astra",
    "input": "Say hello in one sentence.",
    "stream": true
  }'

Vérifiez d’abord le statut HTTP. Une requête qui échoue avant le début du flux reçoit l’erreur JSON habituelle, pas un flux. Lisez ensuite les événements. Chaque endpoint a son propre format :

EndpointLe texte arrive dansFin réussieFin en échec
Responsesresponse.output_text.deltaresponse.completedresponse.failed ou error
Chat Completionschoices[].deltaun finish_reason, puis [DONE]une trame error sans finish_reason

Sur Chat Completions, un dernier fragment avec des choices vides transporte usage, y compris le cost de tout le flux, avant [DONE]. Seul Chat Completions envoie [DONE]. Un fragment réseau peut contenir la moitié d’un événement ou plusieurs événements : mettez en tampon jusqu’à ce qu’un événement soit complet avant de l’analyser, ou utilisez un utilitaire de flux du SDK.

Un flux n’est terminé que lorsque son événement de fin réussie arrive. Une connexion fermée ne signifie pas à elle seule que la réponse est complète. Si le flux échoue en cours de route, gardez le texte partiel marqué comme interrompu et proposez une nouvelle tentative ; Phaseo ne facture pas la sortie partielle d’un flux en échec.

Pour annuler, passez un AbortSignal (ou l’équivalent de votre client HTTP) et annulez quand l’utilisateur arrête. L’annulation ne garantit ni que le fournisseur s’arrête immédiatement, ni que la sortie déjà générée est gratuite.

Vérifiez votre compréhension

Votre flux Chat Completions a livré du texte, puis la connexion se ferme. Vous n’avez vu ni finish_reason ni [DONE]. Que faites-vous ?

Mettez-le en pratique

Les utilisateurs peuvent appuyer sur Stop dans l’interface de chat. Votre chef de produit pense que les réponses arrêtées ne coûtent rien. A-t-il raison ?

Afficher la réponse

Non. Annulez la requête avec un AbortSignal pour que votre application arrête de lire, mais la documentation précise que l’annulation ne garantit ni que le fournisseur s’arrête immédiatement, ni que la sortie déjà générée est gratuite. Attendez-vous à ce que les réponses arrêtées soient facturées pour le travail déjà effectué.

À retenir

Attendez l’événement de fin réussie de l’endpoint, considérez tout le reste comme interrompu, et ne supposez pas qu’un flux annulé est gratuit.

Liens utiles

La progression est enregistrée dans ce navigateur.

Dernière vérification le 17 novembre 2026