generateText(), createChatCompletion()
示例
关键参数
model(必填):目标模型 ID。messages(必填):按顺序排列的消息,角色为system|user|assistant|tool;内容使用 MessageContent 对象。- 采样:
temperature(0–2)、top_p(0–1)、top_k(>=1)、seed(int,可选)。 - 长度与惩罚项:
max_output_tokens(int)、presence_penalty和frequency_penalty(-2 到 2)、stop(string|string[])。 - 工具:
tools(定义)、tool_choice(自动/无/指定工具)、max_tool_calls(int)、parallel_tool_calls(bool)。 - Logprobs:
logprobs(bool)、top_logprobs(0–20)。 - 输出:
response_format(json/text)、meta(bool,是否包含 meta 块)、stream(bool)、service_tier。 - Gateway 附加选项:
usage(bool,用于请求使用量)。