主题
内容审核
扩展包
本页功能由内容安全扩展包提供（服务端 CONTENT_SAFETY_PACK_ENABLED，管理端 VITE_CONTENT_SAFETY_ENABLED）。关闭或删除该包后，本页菜单与接口一并消失，对话不再做内容审核。开关说明见 扩展包开关与裁剪。
内容审核可以用部署者自备的本地敏感词库，也可以接入腾讯云文本内容安全。是否真正拦截用户消息、选择哪种检测方式，都在本页配置。
后台入口
- 菜单路径：安全风控 → 内容审核
- 后台地址：
/security/sensitive
配置项怎么填
| 配置项 | 用途 | 从哪里找 | 填写建议 |
|---|---|---|---|
| 启用内容安全过滤 | 开启后，用户消息会进入本页选择的检测流程 | 后台选择 | 配好检测方式后再开启 |
| 使用腾讯云文本审核 | 开启后调用腾讯云文本内容安全 TMS | 后台选择 | SecretId、SecretKey 测试通过后再开启 |
| SecretId | 调用腾讯云接口的访问密钥 ID | 腾讯云控制台 → 访问管理 → API 密钥管理 | 可复用系统里的腾讯云配置 |
| SecretKey | 调用腾讯云接口的访问密钥 Key | 腾讯云控制台 → 访问管理 → API 密钥管理 | 不要泄露给无关人员 |
| 地域 | 腾讯云接口地域 | 腾讯云控制台或业务所在地域 | 不填默认 ap-guangzhou |
| 策略 BizType | 腾讯云文本审核策略编号 | 腾讯云内容安全控制台 → 策略配置 | 可选，不填使用腾讯云默认策略 |
| 使用本地敏感词库 | 开启后用自备的本地词库检测 | 后台选择 | 先放好词库文件再开启 |
| 选择词库 | 选择实际启用的本地词库，多个词库会合并去重 | 服务端 data/vocabularies 目录 | 先选业务相关词库，避免误伤过多 |
腾讯云文本审核
腾讯云文本审核适合对内容安全要求更高的站点。系统会调用腾讯云文本内容安全 TMS 对用户输入做语义审核。
配置步骤：
- 登录 腾讯云控制台。
- 开通文本内容安全 TMS。
- 在访问管理中准备可调用内容安全服务的 SecretId 和 SecretKey。
- 如需自定义审核策略，在腾讯云内容安全控制台配置策略并复制 BizType。
- 回到 后台，开启“使用腾讯云文本审核”。
- 填写 SecretId、SecretKey、地域和可选 BizType。
- 点击“测试腾讯配置”，确认接口可以正常调用。
官方文档：
本地敏感词库
本地敏感词库不需要额外购买第三方服务。项目不附带任何词库，词库由部署者按自己的业务和合规要求准备。
准备词库文件
- 每个词库一个 UTF-8 文本文件，扩展名
.txt，文件名就是后台显示的词库名，例如广告词.txt。 - 一行一个词；空行和以
#、//开头的注释行会被跳过，同一文件里重复的词只算一次。 - 把文件放到服务端的
server/data/vocabularies/目录，重启服务。 - 打包发布时
build.sh默认不带本机词库，给自己部署打包时用INCLUDE_VOCABULARIES=1 ./build.sh；手工部署时把data/vocabularies与dist/一起分发。 - 用 git 更新代码前先备份这些词库文件，更新后放回：仓库不跟踪它们，旧版本随仓库附带的词库在更新时会被删除。
目录为空时服务照常运行，本地词库不拦截任何内容，后台的词库列表会提示放置文件。
选择词库
开启后，可以在页面中选择一个或多个词库。页面会显示已选择词库数量和总词数，方便评估覆盖范围。
使用建议：
选择建议
| 场景 | 建议 |
|---|---|
| 新站点、轻量风控 | 先用自备的本地敏感词库 |
| 内容风险高、需要更强审核 | 使用腾讯云文本审核 |
| 正在调试误伤问题 | 暂时用本地敏感词库配合白名单 |
常见问题
开启本地敏感词库后不生效？
检查三点：服务端 data/vocabularies 目录里是否有 .txt 词库文件、是否已经开启“启用内容安全过滤”、是否选择了至少一个词库。新增或替换词库文件后需要重启服务。
腾讯云配置测试失败？
确认 SecretId、SecretKey 是否有效，账号是否已开通文本内容安全 TMS，地域和 BizType 是否填写正确。复制密钥时不要带空格。
白名单对腾讯云有效吗？
无效。白名单只对本地敏感词库生效。腾讯云审核结果需要在腾讯云侧按策略能力处理。