Methoden: generateText(), createChatCompletion()
Beispiel
Wichtige Parameter
model (erforderlich): ID des Zielmodells.
messages (erforderlich): Nachrichten in Reihenfolge mit den Rollen system|user|assistant|tool; der Inhalt besteht aus MessageContent-Objekten.
- Stichprobenparameter:
temperature (0–2), top_p (0–1), top_k (>=1), seed (int, optional).
- Länge und Strafwerte:
max_output_tokens (int), presence_penalty und frequency_penalty (-2 bis 2), stop (string|string[]).
- Tools:
tools (Definitionen), tool_choice (automatisch/keins/bestimmtes Tool), max_tool_calls (int), parallel_tool_calls (bool).
- Logprobs:
logprobs (bool), top_logprobs (0–20).
- Ausgabe:
response_format (json/text), meta (bool zum Einfügen des meta-Blocks), stream (bool), service_tier.
- Zusätzliche Gateway-Optionen:
usage (bool zum Anfordern der Nutzungsdaten).
Rückgabe
ChatCompletionsResponse-JSON-Objekt.
Zuletzt geändert am 2. Oktober 2026