Methode: client.GenerateText(...) oder client.CreateChatCompletion(...)
Beispiel
Wichtige Parameter
model (erforderlich): ID des Zielmodells.
messages (erforderlich): geordnete Nachrichten mit den Rollen system|user|assistant|tool; der Inhalt kann aus Text oder Teilen bestehen.
- Sampling:
temperature (0–2), top_p (0–1), top_k (>=1), seed (optionale Ganzzahl).
- Länge und Penalties:
max_output_tokens (Ganzzahl), presence_penalty und frequency_penalty (-2 bis 2), stop (string|string[]).
- Tools:
tools (Definitionen), tool_choice (auto/none/bestimmtes Tool), max_tool_calls (Ganzzahl), parallel_tool_calls (Boolean).
- Logprobs:
logprobs (Boolean), top_logprobs (0–20).
- Ausgabe:
response_format (json/text), meta (durchgereichtes Objekt), stream (Boolean), service_tier.
- Gateway-Zusatzoptionen:
usage (Boolean zum Anfordern der Nutzung), meta (Boolean zum Einfügen des Meta-Blocks).
Rückgabe
ChatCompletionsResponse
Zuletzt geändert am 2. Oktober 2026