切换客户端
LLM_GATEWAY_* 变量,包括 CI 和托管设置中的变量。如果应用使用 @llmgateway/ai-sdk-provider,请按从 Vercel AI Gateway 迁移中的说明切换到 @phaseo/ai-sdk-provider。
映射模型 ID
列出 Phaseo 的 ID,并用它们核对每个生产模型:alibaba/<model> 不是 Phaseo ID。把每个 ID 映射到 Phaseo 的 <org>/<model>,并用 provider.only 或 provider:org/model ID 保留提供商固定。像 gpt-4o 这样不带前缀的别名,请在客户端边界用一个函数统一转换,而不是在每个调用处转换。
映射网关功能
测试并上线
用你的黄金提示词集分别调用两个网关,比较质量、延迟和成本。先检查接口:- 每个环境都设置了
PHASEO_API_KEY; - 每个生产模型 ID 都已映射并出现在列表中;
- 一个非流式请求和一个流式请求在预发布环境中通过;
- 已处理无效密钥和无效模型错误;它们的响应体可能与 LLM Gateway 不同;
- 预发布环境中的失败请求可以通过
GET /v1/generations找回; - 共享的提示词和路由默认设置放在了预设中。