过滤规则管理
过滤规则管理模块是AI教学助手的重要功能之一,旨在确保平台安全性并满足教学场景的特殊需求。该模块不仅内置了基础的安全过滤策略,还允许管理员根据实际教学要求定制额外的过滤规则。通过灵活配置过滤规则,平台能够快速适应特定场景要求,避免不适合教学的内容传播,并防止AI教学助手被恶意利用或“投毒”。
主要功能特点
-
内置基础过滤策略:
- 系统默认启用了多种安全过滤规则,涵盖敏感词、违法信息、不适合教学的内容等,确保AI教学助手的回答符合基本安全要求。
-
自定义规则配置:
- 管理员可以根据学校的特定教学需求,定制额外的过滤规则。
- 支持关键词、句式模式和情境触发条件的多种规则设置,提升过滤的精准性和灵活性。
-
场景适配:
- 针对学校的临时性或特定事件(如考试作弊防控、敏感信息管控等),通过快速添加规则,确保AI助手的回答符合教学任务要求。
- 及时响应动态需求,为不同学校或课程场景提供定制化支持。
-
实时规则生效:
- 所有新增或调整的过滤规则在配置完成后实时生效,确保平台在第一时间适应变化。
- 提供规则启用/停用功能,便于管理员灵活管理。
-
过滤日志和审计:
- 系统会记录过滤规则的应用情况,包括被触发的规则和对应的回答内容,方便管理员进行审核和优化。
使用场景
- 教学任务保障: 针对特定课程或活动中的关键内容(如考试安排、科研项目),确保AI回答与任务目标一致。
- 临时事件处理: 学校发生临时性事件时,快速配置过滤规则,防止AI传播不适宜的信息。
- 安全性提升: 增加对可能存在恶意输入的识别能力,避免教学助手因投毒内容输出错误或不良回答。
通过过滤规则管理模块,教学平台能够在确保安全的同时满足多样化的教学需求,为学校提供一个更智能、更可信的AI教学助手。
过滤规则列表
过滤规则列表会展示出当前系统自定义的过滤规则,支持根据规则类型(屏蔽词、语义屏蔽)和规则状态(启用、禁用、删除)进行搜索

添加新的过滤规则
点击“添加过滤规则”可以进行添加,需要指定规则的类型:
- 屏蔽词:禁止教学助手出现该关键词
- 语义屏蔽:禁止教学助手出现该语义相关的内容

失效和重新启用过滤规则

编辑过滤规则
可以针对某一条具体的过滤规则进行更新

删除过滤规则
删除和失效不同,失效后可以重新启用,但是删除后该条目无法重新生效。
