推行步骤
1
创建护栏
打开设置 → 护栏 → 新护栏。按它执行的规则命名,例如
eu-models-pii-redact,而不是按团队命名,这样它就能在多个密钥之间复用。先设置路由访问,再设置内容检查:常见的第一个策略是屏蔽低可信度的提供商,并只允许该密钥应当访问的那些确切的生产模型。用预览检查哪些提供商和模型仍可路由,以及仅允许是否比你预想的更窄。
2
添加内容检查
提示词注入会扫描用户提供的内容,查找常见的注入模式。敏感信息会在请求离开 Phaseo 之前检测数据:
每项检查都有一个操作:标记、脱敏或拦截。提示词注入先从标记或脱敏开始,在审查过误报之后再改为拦截。先使用快速检测器。自定义模式以显式正则规则添加。
3
在预览中测试
保存之前,在预览中运行三个输入:一个无害的、一个显然应被拦下的,以及一个真实的生产提示。检查脱敏文本、拦截或放行结果,并确认没有误匹配无关内容。
4
挂到一个密钥上
在应用于密钥下,选择一个预发布或低风险的密钥。你可以在创建护栏时就挂上它。应用于成员则会对这些成员创建的 API 密钥强制执行该护栏。成员无法编辑或移除由工作区所有者或管理员分配的护栏。
5
检查执行情况
通过该密钥发送真实请求,然后检查:
- 设置 → 用量 → 护栏,查看被拦截、脱敏和标记的数量。
- 设置 → 用量 → 日志中某个请求的护栏执行部分,查看触发的护栏和检测器。
- 设置 → API 密钥中的护栏列,确认它挂在了哪些密钥上。
6
扩大推行范围
把同一个护栏挂到更多密钥上,把操作从标记收紧为脱敏或拦截,并且只在延迟可以接受的地方添加人名和地址检测器。