4 में से पाठ 4 · 9 मिनट

इसे स्ट्रीम करें

जवाब लिखे जाते समय दिखाएँ, और पूरी हुई स्ट्रीम को टूटी हुई स्ट्रीम से अलग पहचानें।

"stream": true सेट करें और मॉडल के लिखते समय Phaseo आउटपुट को server-sent events (SSE) के रूप में भेजता है:

curl --no-buffer https://api.phaseo.app/v1/responses \
  -H "Authorization: Bearer $PHASEO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-6-astra",
    "input": "Say hello in one sentence.",
    "stream": true
  }'

पहले HTTP स्टेटस जाँचें। जो अनुरोध स्ट्रीम शुरू होने से पहले विफल होता है, उसे स्ट्रीम नहीं, सामान्य JSON त्रुटि मिलती है। फिर इवेंट पढ़ें। हर एंडपॉइंट का अपना फ़ॉर्मैट है:

एंडपॉइंटटेक्स्ट कहाँ आता हैसफल अंतविफल अंत
Responsesresponse.output_text.deltaresponse.completedresponse.failed या error
Chat Completionschoices[].deltaएक finish_reason, फिर [DONE]बिना finish_reason वाला error फ़्रेम

Chat Completions पर, [DONE] से पहले खाली choices वाला एक आख़िरी चंक usage लाता है, जिसमें पूरी स्ट्रीम की cost भी होती है। सिर्फ़ Chat Completions [DONE] भेजता है। एक नेटवर्क चंक में आधा इवेंट या कई इवेंट हो सकते हैं, इसलिए पार्स करने से पहले इवेंट पूरा होने तक बफ़र करें, या SDK का स्ट्रीम हेल्पर इस्तेमाल करें।

स्ट्रीम तभी पूरी मानी जाती है जब उसका सफल अंत इवेंट आ जाए। सिर्फ़ कनेक्शन बंद होने का मतलब यह नहीं कि जवाब पूरा है। अगर यह बीच में विफल हो, तो अधूरे टेक्स्ट को बाधित के रूप में चिह्नित करके रखें और दोबारा कोशिश का विकल्प दें; बीच में विफल हुई स्ट्रीम के अधूरे आउटपुट के लिए Phaseo शुल्क नहीं लेता।

रद्द करने के लिए AbortSignal (या आपके HTTP क्लाइंट का समकक्ष) पास करें और उपयोगकर्ता के रोकने पर abort करें। रद्द करने से यह गारंटी नहीं मिलती कि प्रदाता तुरंत रुक जाएगा, या पहले से जनरेट हुआ आउटपुट मुफ़्त होगा।

अपनी समझ जाँचें

आपकी Chat Completions स्ट्रीम ने टेक्स्ट भेजा, फिर कनेक्शन बंद हो गया। आपको कभी finish_reason या [DONE] नहीं मिला। आप क्या करेंगे?

इसे लागू करें

उपयोगकर्ता आपके चैट UI में Stop दबा सकते हैं। आपके प्रोडक्ट मैनेजर मानते हैं कि रोके गए जवाबों की कोई लागत नहीं होती। क्या यह सही है?

जवाब दिखाएँ

नहीं। AbortSignal से अनुरोध abort करें ताकि आपका ऐप पढ़ना बंद कर दे, लेकिन दस्तावेज़ कहते हैं कि रद्द करने से यह गारंटी नहीं मिलती कि प्रदाता तुरंत रुकेगा, या जो आउटपुट वह पहले ही जनरेट कर चुका है वह मुफ़्त होगा। रोके गए जवाबों पर पहले से हो चुके काम का शुल्क लगने की उम्मीद रखें।

मुख्य बात

एंडपॉइंट के सफल अंत इवेंट का इंतज़ार करें, बाकी सब को बाधित मानें, और यह न मानें कि रद्द की गई स्ट्रीम मुफ़्त है।

संबंधित लिंक

प्रगति इसी ब्राउज़र में सेव होती है।

आखिरी बार जाँचा गया 17 नवंबर 2026