衡量价格与性能

​

先明确决策目标

​

比较价格

​

了解性能指标

​

正确解读运行数据

• 提供商和路由的选择
• Cloudflare 执行位置和网络路径
• 提供商排队或区域负载
• 提示和输出长度
• 流式或非流式行为
• 重试、取消和工具调用
• 所选时间窗口内的模型或提供商更新

​

开展可复现的工作负载测试

1. 从默认的 GET /v1/models 响应中选择两到三个可路由模型。
2. 创建一组经过脱敏的提示，涵盖简短、典型和较长的请求。
3. 固定端点、地区、流式模式、提供商约束和并发数。
4. 不要只依赖单个样本，应针对每个提示重复发送请求。
5. 记录请求 ID、所选提供商、成功或错误状态、输出令牌数、Gateway TTFT、提供商处理时长、Gateway E2E、Phaseo 开销和成本。
6. 比较分布和失败模式，并将原始结果与测试配置一并保存。

{
  "study_id": "support-summary-v1",
  "model": "<verified-model-id>",
  "endpoint": "responses",
  "stream": true,
  "region": "<execution-region>",
  "request_id": "req_...",
  "gateway_ttft_ms": 0,
  "provider_duration_ms": 0,
  "gateway_e2e_ms": 0,
  "phaseo_overhead_ms": 0,
  "output_tokens": 0,
  "cost_usd": 0,
  "status": "completed"
}

​

Phaseo 不作出的承诺

• 模型出现在目录中并不代表它可以路由。请使用默认的有效可用性筛选条件。
• 公开运行遥测不能保证未来的延迟或正常运行时间。
• 基准测试分数无法证明模型在你的提示组合下具备生产级质量。
• 示意性的 UI 配置并非模型的实时测量结果。
• 未经许可且没有佐证材料，不应发布客户引言、徽标或工作负载结果。

​

后续步骤