Skip to main content
Method: client.generate_response() (client.stream_responses() से parsed chunks stream करें)।

उदाहरण

स्ट्रीमिंग

मुख्य parameters

  • model (आवश्यक): लक्ष्य मॉडल ID।
  • input (आवश्यक): इनपुट आइटम (संदेश, टूल कॉल आदि) की क्रमबद्ध सूची।
  • temperature (0–2): मान जितना अधिक होगा, आउटपुट उतना ही यादृच्छिक होगा।
  • top_p (0–1) / top_k (>=1): न्यूक्लियस और top-k सैंपलिंग नियंत्रण।
  • max_output_tokens (integer): हर प्रतिक्रिया में जनरेट होने वाले टोकन की अधिकतम सीमा।
  • टूल: tools (परिभाषाएँ), tool_choice (auto/none/विशिष्ट), max_tool_calls (पूर्णांक), parallel_tool_calls (बूलियन)।
  • लॉग प्रायिकताएँ: logprobs (बूलियन), top_logprobs (0–20), हर टोकन की लॉग प्रायिकताएँ लौटाने के लिए।
  • आउटपुट: response_format (json/text), service_tier, store (बूलियन), stream (बूलियन)।
  • मेटाडेटा: metadata (पास-थ्रू ऑब्जेक्ट), reasoning (प्रयास-सूचना वाला ऑब्जेक्ट)।
  • Gateway के अतिरिक्त विकल्प: usage (उपयोग आँकड़े माँगने के लिए बूलियन), meta (मेटा ब्लॉक शामिल करने के लिए बूलियन)।

रिटर्न मान

ResponsesResponse
stream: true होने पर newline-delimited SSE frames:
अंतिम संशोधन 2 अक्टूबर 2026