跳转到主要内容
把调用 LiteLLM 代理的客户端指向 https://api.phaseo.app/v1 并使用 Phaseo 密钥,然后逐一明确映射每个 model_name 别名和每项代理设置。如果想保留 LiteLLM 并把 Phaseo 作为其上游,请参见 LiteLLM 集成。

切换客户端

每个别名都需要明确映射到 GET /v1/models?format=openai 中的某个 ID。如果调用方使用内部别名,请在客户端边界用一个函数统一转换,而不是逐个修改请求。

映射代理配置

移除代理之前,先清点回调、预算和重试:代理一旦移除,它们会悄无声息地停止工作。 代理会让整个团队的流量通过同一个密钥所有者发送,因此共享该用户的每分钟请求数额度,新工作区为 10。请查看网关限制,并在切换前申请更高的限制。

测试并上线

测试流式传输、工具、结构化输出、重试、错误映射,以及代理原来处理的任何回调驱动的遥测。在逐步迁移流量之前比较延迟、输出、token 用量和成本。切换前确认:
  • 已找出每个 LiteLLM URL、密钥和 LITELLM_* 变量;
  • 每个生产别名都有明确的 Phaseo 映射;
  • 共享的默认设置放在预设或一个边界函数中;
  • 必需的回调和遥测都有替代方案;
  • 已决定以 LiteLLM、Phaseo 还是两者作为支出记录;
  • 回退仍然只需更改 base URL 和密钥。
最后修改于 2026年11月7日