风控管理
风控管理模块用于保障系统安全和内容合规。通过合理配置风控规则，可以有效防范违规内容，保护平台安全，满足监管要求，同时为用户提供良好的使用体验。
风控安全配置
设置系统的安全策略和风险控制规则，预防滥用和攻击。风控安全配置是平台安全防护的第一道防线，包括用户身份验证和内容监控等多个方面。
认证设置
| 配置项 | 说明 |
|---|---|
| 开启实名验证 | 控制是否启用用户实名认证功能 |
| appCode | 阿里云实名认证接口的应用代码 |
| 开启手机号验证 | 控制是否启用手机号验证功能 |
| 手机号验证阈值 | 触发手机号验证的消息数量 |
| 实名认证阈值 | 触发实名认证的消息数量 |
| 开启敏感词过滤 | 控制是否启用敏感词过滤功能 |
内容安全设置
| 配置项 | 说明 |
|---|---|
| 内容安全检测方式 | 选择内容审核的技术路径 |
| 检测用户输入 | 是否检测用户输入的内容 |
| 检测 AI 回复 | 是否检测 AI 回复的内容 |
| 检测超时时间 | 内容安全检测的最长等待时间 |
| 违规处理方式 | 检测到违规内容后的处理策略 |
| 违规累计阈值 | 触发用户限制的违规次数 |
| 账号冻结时长 | 违规账号的冻结持续时间 |
违规检测记录
查看系统检测到的违规内容和处理记录，用于安全审计和政策优化。违规检测记录可以帮助管理员了解平台的安全状况，识别常见违规类型，优化风控策略。
违规记录列表
系统会记录所有触发敏感词过滤的对话内容，管理员可以查看这些记录，了解用户行为和系统响应。违规记录列表包含以下信息：
| 字段 | 说明 |
|---|---|
| 用户信息 | 违规用户的基本信息 |
| 用户状态 | 用户当前的账号状态 |
| 累计违规次数 | 用户的历史违规总数 |
| 违规类型 | 触发的违规内容分类 |
| 违规关键词 | 触发检测的具体词语 |
| 检测来源 | 违规检测的技术来源 |
| 违规内容 | 完整的违规消息内容 |
| 违规时间 | 违规行为的发生时间 |
| 操作 | 可执行的管理操作 |
百度云敏感词
配置百度云内容安全服务，实现专业的敏感词过滤。百度云内容安全服务提供了强大的文本、图片审核能力，能够识别多种类型的违规内容，适合需要高精度内容审核的平台。
百度文本审核设置
| 配置项 | 说明 |
|---|---|
| 开启此敏感词设置 | 控制是否启用百度云敏感词过滤 |
| 文本审核 ApiKey | 百度云文本审核服务的 API 密钥 |
| 文本审核 SecretKey | 百度云文本审核服务的安全密钥 |
| 审核标签 | 需要审核的内容类型 |
| 置信度阈值 | 判定为违规的最低置信度 |
自定义敏感词
管理系统自定义的敏感词库，针对特定场景进行内容过滤。自定义敏感词库可以补充第三方内容审核服务的不足，尤其适合添加行业特定、平台特定的敏感词。
自定义敏感词配置
允许管理员配置自定义的敏感词列表，可以根据平台特性和用户群体特征设置针对性的敏感词过滤规则。如果同时配置了百度云敏感词和自定义敏感词，系统会先检测百度云后检测自定义敏感词。