1. 梳理集成边界
记录当前网关出现的所有位置:- 基础 URL 和 API 密钥环境变量
- SDK 初始化和自定义请求头
- 模型 ID 和回退模型
- 提供商顺序、允许列表和隐私要求
- 流式传输、工具调用和结构化输出代码
- 批处理任务、文件、Webhook 和异步状态轮询
- 请求归因以及用户或会话元数据
2. 为每项能力分类
为每种生产环境行为指定一个状态:
使用迁移功能检查清单覆盖核心请求、路由、归因、异步任务和运维。
3. 验证代表性流量
根据真实工作负载模式构建一个小型测试集,不要复制敏感的生产数据。 测试以下内容:- 对每个正在使用的端点发送一个普通请求。
- 使用与生产相同的客户端路径测试流式传输。
- 使用符合实际情况的 Schema 测试工具调用和结构化输出。
- 测试每项提供商或隐私约束。
- 测试无效密钥、无效模型、速率限制和提供商不可用错误。
- 让批处理或异步任务运行到成功、失败和取消等终止状态。