清点集成边界
记录当前网关出现的每一处,避免迁移后留下第二条隐藏的配置路径:- base URL 和 API 密钥环境变量;
- SDK 初始化和自定义请求头;
- 模型 ID 和回退模型;
- 提供商排序、允许列表和隐私要求;
- 流式传输、工具调用和结构化输出代码;
- 批处理任务、文件、webhook 和异步状态轮询;
- 请求归因以及用户或会话元数据。
请求
路由和策略
运营
不可用
以下功能在 Phaseo 中没有对应项。请把它们保留在应用中或旧平台上:- 响应缓存。 Phaseo 不缓存响应。提示词缓存仍然可以降低输入成本。
- 已存储的响应和对话。 没有
GET或DELETE /v1/responses/{id}。 - token 计数(
/v1/messages/count_tokens)。 - OpenAI Assistants、Threads、向量存储、微调和旧版
/v1/completions。
给每项功能分类
根据上面的表格和你的源平台指南,为每个生产行为指定一个状态:用你自己的流量验证
API 兼容并不能让以下方面表现一致:- 自动提供商选择和回退顺序;
- 提示词缓存亲和性和缓存价格;
- 提供商特有的请求字段和仅在响应中出现的元数据;
- 速率限制和重试时机;
- 数据保留、驻留和训练政策;
- 具体的模型可用性和价格。
- 对每个在用的接口发送一次普通请求;
- 通过与生产相同的客户端路径进行流式传输;
- 使用真实 schema 的工具调用和结构化输出;
- 每一项提供商或隐私约束;
- 无效密钥、无效模型、速率限制和提供商不可用时的失败;
- 批处理或异步任务的成功、失败和取消。
GET /v1/generations?id=<request_id> 查看。