第 1/4 节课 · 6 分钟

Phaseo 是什么

Phaseo 是一个网关:用一个 API 和一个密钥,连接众多模型以及托管它们的提供商。

Phaseo 是一个 AI 网关。你用同一个密钥,把所有请求发送到同一个 API:https://api.phaseo.app/v1。Phaseo 会把每个请求转给能处理它的提供商,并计入你的工作区账单。你可以使用 Responses、Chat Completions 或 Messages API 格式,沿用你的应用已经在用的那一种即可。

模型和提供商是两回事。 模型是生成回答的系统。提供商托管模型,并决定它的价格、速度、可用性和支持的参数。一个模型可以有多个提供商。

模型 ID 指的是模型,而不是提供商。 ID 形如 openai/gpt-6-astra 或 anthropic/claude-sonnet-5.5:先是实验室,再是模型。phaseo/free 会选择一个可用的免费模型,无需额度即可使用。如果你需要指定某个提供商,可以把它放在 ID 前面,例如 baseten:thinking-machines/inkling-small。

请求的路由方式:

  1. Phaseo 只保留你的工作区设置和请求所允许的提供商。
  2. 对它们进行排序。默认模式 balanced 会综合考虑价格、速度和可靠性。
  3. 调用排名第一的提供商。如果它失败,就尝试下一个。
  4. 如果所有提供商都以可重试的错误失败,并且你在 models 中列出了回退模型,就尝试下一个模型。

回退并不能保证成功,所以你的应用仍应对 429 和 5xx 错误进行退避重试。还有一点:公开目录中列出的部分模型暂时还不能调用。使用某个模型 ID 之前,先确认它是 Gateway 已启用 状态。

检验你的理解

你调用一个由三个提供商托管的模型,排名第一的提供商返回了错误。Phaseo 接下来会怎么做?

学以致用

一位同事在 Phaseo 的模型页面上找到一个模型,并把它的 ID 复制到了请求中。请求失败了,但模型页面看起来一切正常。最可能的原因是什么?你该如何确认?

显示答案

目录中列出的模型比 Gateway 能调用的更多。这个模型可能处于“即将推出”或“未活跃”状态。在模型页面上,“Gateway 状态”筛选器默认只显示 Gateway 已启用的模型,而 GET /v1/models 只返回你能调用的模型。请选择一个 Gateway 已启用的模型。

要点

你选择模型;Phaseo 选择托管它的提供商,并在某个提供商失败时回退到另一个。

相关链接

进度保存在此浏览器中。

最后核对于 2026年11月17日