Skip to content
A2 / 核心攻击面

数据、知识与隐私安全

训练数据、知识存储、RAG 索引、Memory 与数据权利。

归档边界:由数据内容、存储、索引或访问控制责任方修复。

6 个二级分类 · 0 篇内容
A2.1

训练、反馈与标注数据安全

0 篇研究

研究预训练、微调、RLHF/RLAIF、用户反馈和标注数据的内容完整性与授权。

归档边界数据内容和写入路径归本类;训练算法或奖励机制失效归 A1.2。

  • 数据投毒
  • 标注与反馈污染
  • 来源、授权和数据隔离
暂无研究文章,保留为后续研究入口。
A2.2

RAG、知识库与索引安全

0 篇研究

研究检索语料、Embedding、向量数据库和索引的存储侧安全。

归档边界索引写入、访问控制和数据恢复归本类;检索内容进入上下文后成为指令归 A5.1。

  • 知识库投毒
  • Embedding 反演
  • 向量库访问控制与多租户隔离
暂无研究文章,保留为后续研究入口。
A2.3

Memory 与 Context Store 安全

0 篇研究

研究长期记忆、会话存储和上下文数据层的写入、隔离、生命周期与完整性。

归档边界存储侧污染和越权读取归本类;应用读取后的优先级和跨会话行为影响归 A5.2。

  • 长期记忆污染
  • 跨用户存储隔离
  • 记忆生命周期与删除
暂无研究文章,保留为后续研究入口。
A2.4

数据隐私、推断与泄露

0 篇研究

研究从数据处理、训练信号或知识存储中恢复敏感属性和原始信息的攻击。

归档边界模型资产提取归 A1.3;数据库、梯度和数据记录承载的隐私泄露归本类。

  • 属性与成员推断
  • 梯度泄露
  • 敏感数据暴露与重识别
暂无研究文章,保留为后续研究入口。
A2.5

机器遗忘与数据权利验证

0 篇研究

研究删除请求、机器遗忘和数据权利在模型及数据层是否真实生效并可审计。

归档边界重点是删除效果和残留恢复;一般隐私泄露归 A2.4。

  • Unlearning 有效性
  • 遗忘后残留恢复
  • 删除请求审计
暂无研究文章,保留为后续研究入口。
A2.6

评测数据与基准完整性

0 篇研究

研究测试集、基准数据和评分样本在采集、保管和使用过程中的完整性。

归档边界基准数据污染与泄露归本类;评测器、Judge 或 Harness 被操纵归 C3。

  • 基准污染
  • 测试集泄露
  • 训练集与评测集交叉污染
暂无研究文章,保留为后续研究入口。