跳转到主要内容
找出当前网关集成用到的每项功能,然后在迁移流量之前完成最后一列要求的事。最近审核日期:2026 年 11 月 4 日。 按以下顺序进行迁移。即使两个平台都接受相同的 OpenAI 兼容请求,这个顺序也能找出可能发生变化的行为。

清点集成边界

记录当前网关出现的每一处,避免迁移后留下第二条隐藏的配置路径:
  • base URL 和 API 密钥环境变量;
  • SDK 初始化和自定义请求头;
  • 模型 ID 和回退模型;
  • 提供商排序、允许列表和隐私要求;
  • 流式传输、工具调用和结构化输出代码;
  • 批处理任务、文件、webhook 和异步状态轮询;
  • 请求归因以及用户或会话元数据。

请求

路由和策略

运营

不可用

以下功能在 Phaseo 中没有对应项。请把它们保留在应用中或旧平台上:
  • 响应缓存。 Phaseo 不缓存响应。提示词缓存仍然可以降低输入成本。
  • 已存储的响应和对话。 没有 GET 或 DELETE /v1/responses/{id}。
  • token 计数(/v1/messages/count_tokens)。
  • OpenAI Assistants、Threads、向量存储、微调和旧版 /v1/completions。

给每项功能分类

根据上面的表格和你的源平台指南,为每个生产行为指定一个状态:

用你自己的流量验证

API 兼容并不能让以下方面表现一致:
  • 自动提供商选择和回退顺序;
  • 提示词缓存亲和性和缓存价格;
  • 提供商特有的请求字段和仅在响应中出现的元数据;
  • 速率限制和重试时机;
  • 数据保留、驻留和训练政策;
  • 具体的模型可用性和价格。
根据真实的工作负载模式构建一个小型测试集(不要复制敏感的生产数据),并运行:
  1. 对每个在用的接口发送一次普通请求;
  2. 通过与生产相同的客户端路径进行流式传输;
  3. 使用真实 schema 的工具调用和结构化输出;
  4. 每一项提供商或隐私约束;
  5. 无效密钥、无效模型、速率限制和提供商不可用时的失败;
  6. 批处理或异步任务的成功、失败和取消。
比较输出质量、延迟、token 用量、所选提供商和最终成本。记录每个请求 ID,以便在请求日志中或用 GET /v1/generations?id=<request_id> 查看。

用可回退的开关上线

先从开发和内部流量开始。只有在测试集通过后,才迁移一小部分生产流量;在结果稳定之前,让回退只涉及 base URL 和密钥。不要把切换和提示词、模型或路由的修改放在一起;等网关边界验证完成后再做这些修改。
最后修改于 2026年11月5日