streamText pour recevoir les jetons au fur et à mesure de leur arrivée.
Streaming avec des messages
Conseils pour la production
- Privilégiez le streaming pour les réponses longues et les interfaces interactives.
- Gérez l’annulation et les délais d’attente dans votre environnement d’exécution pour les flux abandonnés.
- Actualisez les ID de modèle via
/v1/modelspour éviter les alias obsolètes.