https://api.phaseo.app/v1 并使用 Phaseo 密钥,然后逐一明确映射每个 model_name 别名和每项代理设置。如果想保留 LiteLLM 并把 Phaseo 作为其上游,请参见 LiteLLM 集成。
切换客户端
GET /v1/models?format=openai 中的某个 ID。如果调用方使用内部别名,请在客户端边界用一个函数统一转换,而不是逐个修改请求。
映射代理配置
移除代理之前,先清点回调、预算和重试:代理一旦移除,它们会悄无声息地停止工作。
代理会让整个团队的流量通过同一个密钥所有者发送,因此共享该用户的每分钟请求数额度,新工作区为 10。请查看网关限制,并在切换前申请更高的限制。
测试并上线
测试流式传输、工具、结构化输出、重试、错误映射,以及代理原来处理的任何回调驱动的遥测。在逐步迁移流量之前比较延迟、输出、token 用量和成本。切换前确认:- 已找出每个 LiteLLM URL、密钥和
LITELLM_*变量; - 每个生产别名都有明确的 Phaseo 映射;
- 共享的默认设置放在预设或一个边界函数中;
- 必需的回调和遥测都有替代方案;
- 已决定以 LiteLLM、Phaseo 还是两者作为支出记录;
- 回退仍然只需更改 base URL 和密钥。