> ## Documentation Index
> Fetch the complete documentation index at: https://phaseo.app/docs/llms.txt
> Use this file to discover all available pages before exploring further.

# 最佳实践

> 遵循这些架构、安全和可观测性指南，构建可靠的 AI 功能。

在生产工作负载中采用 Gateway 并不复杂，关键是打好基础。请参考以下建议，提升韧性、安全性和可维护性。

***

## 架构

* **隔离提供商逻辑。** 将 Gateway 调用封装在专用服务或 SDK 中，避免改动扩散。
* **尽可能流式传输响应。** 随着令牌生成，将其立即传到界面，降低助手的延迟。
* **批量处理非关键任务。** 将后台生成或评估任务排入队列，平滑流量峰值。

***

## 安全

* 在生产环境中，请将 API 密钥存储在密钥管理器（AWS Secrets Manager、Doppler、1Password）中，而不是 `.env` 文件里。
* 为自有 API 启用请求签名，避免客户端应用暴露 Gateway 密钥。
* 日志中只记录截断后的密钥（例如 `sk_prod_abcd...`），避免泄露凭据。

***

## 可靠性

* 对所有可重试错误（HTTP 429 或 5xx）采用带随机抖动的指数退避。
* 重试受到速率限制的请求前，请遵循 [`Retry-After`](https://developer.mozilla.org/en-US/docs/Web/HTTP/Headers/Retry-After) 请求头。
* 监控提供商元数据，及时发现流量自动切换到其他提供商的情况。

***

## 可观测性

| 信号 | 建议操作 |
| - | - |
| 延迟 | 跟踪 p95 和 p99 耗时，尽早发现性能回退。 |
| 令牌用量 | 将成本与业务指标关联，以评估投资回报。 |
| 错误率 | 如果错误持续一段时间超过 1%，请触发告警。 |
| 提供商占比 | 确保流量按预期分配给各个提供商。 |

***

## 协作

* 在内部 Wiki 中记录提示模板、输入参数和输出处理方式。
* 共享可视化面板，突出基准测试的变化及其对产品的影响。
* 鼓励产品、研究和支持团队定期评审，确保行为保持一致。

***

## 延伸阅读

* 了解如何妥善[处理错误](../api-reference/errors.mdx)。
* 通过[速率限制](../api-reference/limits.mdx)规划扩展。
* 查看[示例](../guides/examples.mdx)作为参考实现。


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.