过滤规则管理#

过滤规则管理模块是AI教学助手的重要功能之一，旨在确保平台安全性并满足教学场景的特殊需求。该模块不仅内置了基础的安全过滤策略，还允许管理员根据实际教学要求定制额外的过滤规则。通过灵活配置过滤规则，平台能够快速适应特定场景要求，避免不适合教学的内容传播，并防止AI教学助手被恶意利用或“投毒”。

主要功能特点#

1. 内置基础过滤策略：

   • 系统默认启用了多种安全过滤规则，涵盖敏感词、违法信息、不适合教学的内容等，确保AI教学助手的回答符合基本安全要求。

2. 自定义规则配置：

   • 管理员可以根据学校的特定教学需求，定制额外的过滤规则。
   • 支持关键词、句式模式和情境触发条件的多种规则设置，提升过滤的精准性和灵活性。

3. 场景适配：

   • 针对学校的临时性或特定事件（如考试作弊防控、敏感信息管控等），通过快速添加规则，确保AI助手的回答符合教学任务要求。
   • 及时响应动态需求，为不同学校或课程场景提供定制化支持。

4. 实时规则生效：

   • 所有新增或调整的过滤规则在配置完成后实时生效，确保平台在第一时间适应变化。
   • 提供规则启用/停用功能，便于管理员灵活管理。

5. 过滤日志和审计：

   • 系统会记录过滤规则的应用情况，包括被触发的规则和对应的回答内容，方便管理员进行审核和优化。

使用场景#

• 教学任务保障： 针对特定课程或活动中的关键内容（如考试安排、科研项目），确保AI回答与任务目标一致。
• 临时事件处理： 学校发生临时性事件时，快速配置过滤规则，防止AI传播不适宜的信息。
• 安全性提升： 增加对可能存在恶意输入的识别能力，避免教学助手因投毒内容输出错误或不良回答。

通过过滤规则管理模块，教学平台能够在确保安全的同时满足多样化的教学需求，为学校提供一个更智能、更可信的AI教学助手。

过滤规则列表#

过滤规则列表会展示出当前系统自定义的过滤规则，支持根据规则类型（屏蔽词、语义屏蔽）和规则状态（启用、禁用、删除）进行搜索

添加新的过滤规则#

点击“添加过滤规则”可以进行添加，需要指定规则的类型：

• 屏蔽词：禁止教学助手出现该关键词
• 语义屏蔽：禁止教学助手出现该语义相关的内容

失效和重新启用过滤规则#

编辑过滤规则#

可以针对某一条具体的过滤规则进行更新

删除过滤规则#

删除和失效不同，失效后可以重新启用，但是删除后该条目无法重新生效。