跳转到主要内容
把专用或自托管的部署添加到你的工作区后,团队就可以通过常规 Phaseo API、使用 acme/legal-assistant 这样的模型 ID 调用它。只有你的工作区能看到或调用它,凡是能使用公共模型 ID 的地方都能使用它。
私有模型目前处于 Beta 阶段。由工作区所有者和管理员添加和管理。
常见来源包括 Baseten、Modal、RunPod、Fireworks 或 Together 上的专用部署,以及运行 vLLM 或其他 OpenAI 兼容服务器的服务。

开始之前

你的部署必须提供:
  • 公共 HTTPS 基础 URL;
  • OpenAI 兼容的 /chat/completions 端点;
  • Bearer 令牌认证;以及
  • 该端点接受的上游模型或部署 ID。
/responses 支持是可选的。除非部署明确实现了该端点,否则请保持关闭。
私有模型不会适配提供商专有的原生协议或自定义认证方案。请在这些部署前加一层 OpenAI 兼容接口,或使用 Phaseo 支持的提供商集成。

连接部署

1

打开私有模型

打开控制台 → 设置 → 工作区 → 私有模型,然后选择添加模型。你必须是工作区所有者或管理员。如需通过脚本添加,请使用管理密钥和相同的字段调用 POST /v1/private-models。
2

为模型命名

选择一个现有的目录模型,把此部署添加到它的提供商列表中;或者输入一个简短的模型标识,例如 legal-assistant。如果没有目录模型使用这个唯一标识,Phaseo 会把受信任的工作区命名空间与它组合起来:
你不能选择或替换工作区命名空间。精确的目录 ID 会挂接到该模型上,而不会改变其公开身份。
3

配置端点

输入推理路径之前的基础 URL。例如:
不要包含 /chat/completions 或 /responses。另行输入准确的上游模型或部署 ID;Phaseo 在转发请求时会替换成它。
4

保存凭据

输入部署的 API 密钥。Phaseo 会加密该凭据,保存后不会再返回它。之后你可以在模型的设置页面中替换它。
5

调用模型

在常规的 Chat Completions 端点中使用生成的模型 ID:
cURL
发起调用的 API 密钥必须与私有模型属于同一个工作区。

路由如何工作

独立的工作区模型只会路由到它配置的端点。挂接到目录模型的端点会按其路由策略加入该模型的提供商列表: Phaseo 会把保存的凭据作为 Bearer 令牌发送,并替换为配置的上游模型 ID。 私有模型永远不会成为公共提供商路由,其他工作区也看不到它。已启用的私有模型会包含在经过认证的模型目录中,并显示在 私有 筛选条件下。
添加、更改或启用私有部署后,请等待最多一分钟再测试其路由。在此之前,部分请求可能仍使用之前的配置,例如该模型的公共提供商。已经在处理中的请求不会被改道。

提供商示例

提供商的产品和 URL 格式可能会变化。请在提供商当前的部署文档中确认基础 URL、模型 ID、认证方式和支持的端点。

通过 API 管理私有模型

服务器端管理可以使用 Private Models API,并按需使用带有 private_models:read、private_models:write 或 private_models:delete 的管理密钥。 创建和更新请求接受 model_reference,它可以是精确的目录模型 ID,也可以是简短标识。model_id 由 Phaseo 推导,客户端不能直接提交。对于现有的 Phaseo 提供商,使用 host_provider_id;对于其他运营方,使用 custom_provider_name 以及可选的 custom_provider_url。

故障排除

  • 提供商返回 404: 检查基础 URL 是否在推理路径之前结束。
  • 未知模型: 把提供商的上游部署 ID 复制到 上游模型 ID 中。不要在那里使用 Phaseo 工作区模型 ID。
  • 上游请求未授权: 替换保存的凭据,并确认提供商接受 Bearer 认证。
  • Chat 正常但 Responses 失败: 除非提供商原生实现了 /responses,否则请关闭 Responses API。
  • 目录中没有该模型: 确认模型已启用,并且调用方已认证到同一个工作区。
最后修改于 2026年11月16日