外观
训练数据、知识存储、RAG 索引、Memory 与数据权利。
归档边界:由数据内容、存储、索引或访问控制责任方修复。
研究预训练、微调、RLHF/RLAIF、用户反馈和标注数据的内容完整性与授权。
归档边界数据内容和写入路径归本类;训练算法或奖励机制失效归 A1.2。
研究检索语料、Embedding、向量数据库和索引的存储侧安全。
归档边界索引写入、访问控制和数据恢复归本类;检索内容进入上下文后成为指令归 A5.1。
研究长期记忆、会话存储和上下文数据层的写入、隔离、生命周期与完整性。
归档边界存储侧污染和越权读取归本类;应用读取后的优先级和跨会话行为影响归 A5.2。
研究从数据处理、训练信号或知识存储中恢复敏感属性和原始信息的攻击。
归档边界模型资产提取归 A1.3;数据库、梯度和数据记录承载的隐私泄露归本类。
研究删除请求、机器遗忘和数据权利在模型及数据层是否真实生效并可审计。
归档边界重点是删除效果和残留恢复;一般隐私泄露归 A2.4。
研究测试集、基准数据和评分样本在采集、保管和使用过程中的完整性。
归档边界基准数据污染与泄露归本类;评测器、Judge 或 Harness 被操纵归 C3。