配置敏感词规则与词表
功能简介
敏感词规则用于识别会话中命中的敏感词。敏感词表用于维护可复用的词条集合，规则需要引用敏感词表后才会生效。
建议先在"敏感词表"中维护词条，再到"敏感词"中配置规则的监控对象、匹配方式、通知方式和自动审计方式。
入口位置
- web端管理后台：风险审计-- 风控设置 -- 敏感词。
- web端管理后台：风险审计 -- 风控设置 -- 敏感词表。
敏感词规则和词表的关系
| 对象 | 作用 |
|---|---|
| 敏感词表 | 保存需要识别的敏感词，可设置词表预设等级， |
| 过滤词表 | 保存需要排除的词条，用于减少误命中 |
| 敏感词规则 | 引用敏感词表和过滤词表，并决定监控范围、匹配方式、通知和自动审计 |
只创建敏感词表不会直接触发风险记录。需要在"敏感词"规则设置中引用词表，并启用规则后，命中结果才会进入敏感词记录。
配置流程
- 进入"敏感词表"页面。点击"新建敏感词表"，填写词表名称，添加敏感词，并按需要设置词表预设等级。
- 如需排除常见误命中词，可点击"新建过滤词表"，填写词表名称，添加过滤词，维护过滤词表。
- 返回进入"敏感词"页面。点击"新建规则"，填写规则名称。设置监控对象、会话类型、聊天类型和消息方向。在"监控策略"中选择敏感词表，并按需要选择过滤词表。
- 设置匹配方式、通知方式和自动审计方式后保存。
敏感词表页面说明
| 区域 | 说明 |
|---|---|
| 搜索与筛选 | 按词表名称搜索，并按全部类型、敏感词表、过滤词表筛选 |
| 词表列表 | 展示词表名称、词表类型、词数、引用规则、最后编辑和最后更新 |
| 词数 | 鼠标悬停可查看词条明细 |
| 引用规则 | 查看当前词表被哪些规则引用 |
| 操作 | 支持详情、编辑、重命名、复制和删除 |
被规则引用的词表不能直接删除，需要先在对应规则中解除引用。
敏感词规则页面说明
| 区域 | 说明 |
|---|---|
| 搜索与筛选 | 按规则名称搜索，并按启用或停用状态筛选 |
| 规则列表 | 展示规则名称、监控对象、监控策略、通知方式、自动审计、最后编辑和最后更新 |
| 快速创建 | 通过场景模板预填规则配置，适合首次配置或常见场景 |
| 新建规则 | 手动创建敏感词规则 |
| 操作 | 支持编辑、停用、启用、复制和删除 |
新建敏感词规则时需要确认什么
| 配置项 | 说明 |
|---|---|
| 规则名称 | 建议使用业务场景命名，例如飞单防控、合规用语监控 |
| 监控对象 | 可选择全部存档员工、指定存档员工、指定客户或指定群聊 |
| 监控策略 | 至少选择一个敏感词表，可同时选择过滤词表 |
| 匹配设置 | 可设置包含或完全匹配，并按需要设置区分大小写和语音消息监控（语音消息监控仅企业版支持） |
| 通知方式 | 可通知员工、通知管理员，同时关闭为仅记录风险，不会产生通知 |
| 自动审计 | 可不开启，也可按词表预设等级或 AI 风险分析进行自动审计 |
常用操作
新建敏感词表
进入"敏感词表"页面，点击"新建敏感词表"，填写名称并添加词条。词条可以逐条添加，也可以粘贴多行文本批量添加。
新建过滤词表
进入"敏感词表"页面，点击新建过滤词表，填写名称并添加过滤词。过滤词表用于减少误命中，本身不设置风险等级。
使用快速创建
进入"敏感词"页面，点击"快速创建"，选择适合的场景模板。系统会预填规则配置，管理员可以继续调整后保存。
停用或启用规则
在"敏感词"规则列表中点击"停用"或"启用"。停用规则后，规则不会继续参与后续识别；已产生的风险记录不会被删除。
注意事项
- 敏感词表最多添加的词条数量以页面提示为准。
- 同一条敏感词规则中，敏感词表不能重复选择。
- 过滤词表用于排除误命中，不等同于白名单员工或客户。
- 如果同时关闭员工通知和管理员通知，规则仍可仅记录风险，但不会推送通知。
- 自动审计结果应结合会话上下文复核，尤其是高风险场景。
常见问题
1. 敏感词表和敏感词规则必须都配置吗？
是的。词表负责维护词条，规则负责决定这些词条监控哪些会话、如何通知和如何审计。
2. 过滤词表什么时候使用？
当某些词在日常沟通中经常出现，但不希望触发敏感词风险时，可以放入过滤词表，并在敏感词规则中引用。