本页目录

AI内容风控

AI内容风控分别检测数字员工收到的消息和发出的回复。管理员可以统一使用全局策略，也可以为指定 Agent 调整规则。

内容检测

检查	作用
关键词与正则	按明确词项或模式检查内容。
个人敏感信息	检测手机号、邮箱等已配置类别，按规则拒绝消息或脱敏替换。
密钥	检查可能泄露的凭证内容。
URL	结合域名允许范围和协议限制检查链接。
模型检查	识别提示词注入、越狱、不当内容或偏离主题的消息，也可用自定义提示词评估。

管理员可以组合检测项，配置命中处置、短路和检测异常处理。模型检查需要可用模型，检测范围以启用的规则为准。

管理员在“员工控制台”的安全护栏中配置、测试和审计策略。配置支持可视化界面与 YAML；测试展示通过、拦截和替换结果，审计记录实际检测与处置。

内容护栏处理消息文本；资源权限与命令审批分别限制数字员工的资源访问和执行动作。