Diffuser en streaming
Affichez la réponse au fil de sa rédaction, et distinguez un flux terminé d’un flux interrompu.
Définissez "stream": true et Phaseo envoie la sortie sous forme de server-sent events (SSE) pendant que le modèle l’écrit :
curl --no-buffer https://api.phaseo.app/v1/responses \
-H "Authorization: Bearer $PHASEO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "openai/gpt-6-astra",
"input": "Say hello in one sentence.",
"stream": true
}'
Vérifiez d’abord le statut HTTP. Une requête qui échoue avant le début du flux reçoit l’erreur JSON habituelle, pas un flux. Lisez ensuite les événements. Chaque endpoint a son propre format :
| Endpoint | Le texte arrive dans | Fin réussie | Fin en échec |
|---|---|---|---|
| Responses | response.output_text.delta | response.completed | response.failed ou error |
| Chat Completions | choices[].delta | un finish_reason, puis [DONE] | une trame error sans finish_reason |
Sur Chat Completions, un dernier fragment avec des choices vides transporte usage, y compris le cost de tout le flux, avant [DONE]. Seul Chat Completions envoie [DONE]. Un fragment réseau peut contenir la moitié d’un événement ou plusieurs événements : mettez en tampon jusqu’à ce qu’un événement soit complet avant de l’analyser, ou utilisez un utilitaire de flux du SDK.
Un flux n’est terminé que lorsque son événement de fin réussie arrive. Une connexion fermée ne signifie pas à elle seule que la réponse est complète. Si le flux échoue en cours de route, gardez le texte partiel marqué comme interrompu et proposez une nouvelle tentative ; Phaseo ne facture pas la sortie partielle d’un flux en échec.
Pour annuler, passez un AbortSignal (ou l’équivalent de votre client HTTP) et annulez quand l’utilisateur arrête. L’annulation ne garantit ni que le fournisseur s’arrête immédiatement, ni que la sortie déjà générée est gratuite.
Vérifiez votre compréhension
Votre flux Chat Completions a livré du texte, puis la connexion se ferme. Vous n’avez vu ni finish_reason ni [DONE]. Que faites-vous ?
Mettez-le en pratique
Les utilisateurs peuvent appuyer sur Stop dans l’interface de chat. Votre chef de produit pense que les réponses arrêtées ne coûtent rien. A-t-il raison ?
Afficher la réponseMasquer la réponse
Non. Annulez la requête avec un AbortSignal pour que votre application arrête de lire, mais la documentation précise que l’annulation ne garantit ni que le fournisseur s’arrête immédiatement, ni que la sortie déjà générée est gratuite. Attendez-vous à ce que les réponses arrêtées soient facturées pour le travail déjà effectué.
À retenir
Liens utiles
Dernière vérification le 17 novembre 2026