过滤规则管理

过滤规则管理模块是AI教学助手的重要功能之一,旨在确保平台安全性并满足教学场景的特殊需求。该模块不仅内置了基础的安全过滤策略,还允许管理员根据实际教学要求定制额外的过滤规则。通过灵活配置过滤规则,平台能够快速适应特定场景要求,避免不适合教学的内容传播,并防止AI教学助手被恶意利用或“投毒”。

主要功能特点

  1. 内置基础过滤策略:

    • 系统默认启用了多种安全过滤规则,涵盖敏感词、违法信息、不适合教学的内容等,确保AI教学助手的回答符合基本安全要求。
  2. 自定义规则配置:

    • 管理员可以根据学校的特定教学需求,定制额外的过滤规则。
    • 支持关键词、句式模式和情境触发条件的多种规则设置,提升过滤的精准性和灵活性。
  3. 场景适配:

    • 针对学校的临时性或特定事件(如考试作弊防控、敏感信息管控等),通过快速添加规则,确保AI助手的回答符合教学任务要求。
    • 及时响应动态需求,为不同学校或课程场景提供定制化支持。
  4. 实时规则生效:

    • 所有新增或调整的过滤规则在配置完成后实时生效,确保平台在第一时间适应变化。
    • 提供规则启用/停用功能,便于管理员灵活管理。
  5. 过滤日志和审计:

    • 系统会记录过滤规则的应用情况,包括被触发的规则和对应的回答内容,方便管理员进行审核和优化。

使用场景

  • 教学任务保障: 针对特定课程或活动中的关键内容(如考试安排、科研项目),确保AI回答与任务目标一致。
  • 临时事件处理: 学校发生临时性事件时,快速配置过滤规则,防止AI传播不适宜的信息。
  • 安全性提升: 增加对可能存在恶意输入的识别能力,避免教学助手因投毒内容输出错误或不良回答。

通过过滤规则管理模块,教学平台能够在确保安全的同时满足多样化的教学需求,为学校提供一个更智能、更可信的AI教学助手。

过滤规则列表

过滤规则列表会展示出当前系统自定义的过滤规则,支持根据规则类型(屏蔽词、语义屏蔽)和规则状态(启用、禁用、删除)进行搜索 过滤规则列表

添加新的过滤规则

点击“添加过滤规则”可以进行添加,需要指定规则的类型:

  • 屏蔽词:禁止教学助手出现该关键词
  • 语义屏蔽:禁止教学助手出现该语义相关的内容

过滤规则列表

失效和重新启用过滤规则

过滤规则列表

编辑过滤规则

可以针对某一条具体的过滤规则进行更新 过滤规则列表

删除过滤规则

删除和失效不同,失效后可以重新启用,但是删除后该条目无法重新生效。 过滤规则列表