Skip to main content
Método: client.generateText() (transmite fragmentos procesados con client.streamChat()).

Ejemplo

Transmisión en streaming

Parámetros principales

  • model (required): ID del modelo de destino.
  • messages (required): Mensajes ordenados con roles system|user|assistant|tool; el contenido puede ser una cadena o varias partes.
  • Muestreo: temperature (0–2), top_p (0–1), top_k (>=1), seed (int, optional).
  • Longitud/penalizaciones: max_output_tokens (int), presence_penalty and frequency_penalty (-2 to 2), stop (string|string[]).
  • Herramientas: tools (definiciones), tool_choice (auto/none/herramienta específica), max_tool_calls (int), parallel_tool_calls (bool).
  • Logprobs: logprobs (bool), top_logprobs (0–20).
  • Salida: response_format (json/text), metadata (object passthrough), stream (bool), service_tier.
  • Opciones adicionales de Gateway: usage (bool para solicitar datos de uso), meta (bool para incluir el bloque meta).

Respuesta

ChatCompletionsResponse
O tramas SSE cuando stream: true:
Última modificación el 2 de octubre de 2026