Skip to main content
Methode: client.GenerateText(...) oder client.CreateChatCompletion(...)

Beispiel

Wichtige Parameter

  • model (erforderlich): ID des Zielmodells.
  • messages (erforderlich): geordnete Nachrichten mit den Rollen system|user|assistant|tool; der Inhalt kann aus Text oder Teilen bestehen.
  • Sampling: temperature (0–2), top_p (0–1), top_k (>=1), seed (optionale Ganzzahl).
  • Länge und Penalties: max_output_tokens (Ganzzahl), presence_penalty und frequency_penalty (-2 bis 2), stop (string|string[]).
  • Tools: tools (Definitionen), tool_choice (auto/none/bestimmtes Tool), max_tool_calls (Ganzzahl), parallel_tool_calls (Boolean).
  • Logprobs: logprobs (Boolean), top_logprobs (0–20).
  • Ausgabe: response_format (json/text), meta (durchgereichtes Objekt), stream (Boolean), service_tier.
  • Gateway-Zusatzoptionen: usage (Boolean zum Anfordern der Nutzung), meta (Boolean zum Einfügen des Meta-Blocks).

Rückgabe

ChatCompletionsResponse
Zuletzt geändert am 2. Oktober 2026