client.GenerateText(...) 或 client.CreateChatCompletion(...)
示例
关键参数
model(必填):目标模型 ID。messages(必填):按顺序排列的消息,角色为system|user|assistant|tool;内容可以是文本或分段。- 采样:
temperature(0–2)、top_p(0–1)、top_k(>=1)、seed(可选整数)。 - 长度与惩罚:
max_output_tokens(整数)、presence_penalty和frequency_penalty(-2 到 2)、stop(string|string[])。 - 工具:
tools(定义)、tool_choice(auto/none/指定工具)、max_tool_calls(整数)、parallel_tool_calls(布尔值)。 - 对数概率:
logprobs(布尔值)、top_logprobs(0–20)。 - 输出:
response_format(json/text)、meta(透传对象)、stream(布尔值)、service_tier。 - Gateway 扩展项:
usage(布尔值,用于请求用量)、meta(布尔值,用于包含 meta 块)。
返回值
ChatCompletionsResponse