跳转到主要内容
替换 base URL 和密钥,保留请求载荷,并映射每个模型 ID:LLM Gateway 的前缀表示提供服务的提供商,而 Phaseo 的前缀表示模型的开发方。

切换客户端

映射或删除每个 LLM_GATEWAY_* 变量,包括 CI 和托管设置中的变量。如果应用使用 @llmgateway/ai-sdk-provider,请按从 Vercel AI Gateway 迁移中的说明切换到 @phaseo/ai-sdk-provider。

映射模型 ID

列出 Phaseo 的 ID,并用它们核对每个生产模型:
LLM Gateway 上的 alibaba/<model> 不是 Phaseo ID。把每个 ID 映射到 Phaseo 的 <org>/<model>,并用 provider.only 或 provider:org/model ID 保留提供商固定。像 gpt-4o 这样不带前缀的别名,请在客户端边界用一个函数统一转换,而不是在每个调用处转换。

映射网关功能

测试并上线

用你的黄金提示词集分别调用两个网关,比较质量、延迟和成本。先检查接口:
迁移流量之前确认:
  • 每个环境都设置了 PHASEO_API_KEY;
  • 每个生产模型 ID 都已映射并出现在列表中;
  • 一个非流式请求和一个流式请求在预发布环境中通过;
  • 已处理无效密钥和无效模型错误;它们的响应体可能与 LLM Gateway 不同;
  • 预发布环境中的失败请求可以通过 GET /v1/generations 找回;
  • 共享的提示词和路由默认设置放在了预设中。
在金丝雀开关后发布,稳定后从一小部分流量扩大到全部流量,并在删除旧配置之前至少观察一个发布周期的生产指标。
最后修改于 2026年11月7日