CAMP：面向多轮LLM对话的累积型代理遮蔽与剪枝用于隐私保护
密码学与安全
2026-04-21 v1 人工智能
摘要
大型语言模型在agentic、多轮对话场景中的部署引入了一类隐私漏洞，现有保护机制未针对此设计。当前的个人可识别信息（PII）遮蔽方法基于单轮独立扫描用户消息并替换检测到的实体为占位符后再传输给模型，虽然有效防止单条消息内的直接标识泄露，但本质上是无状态的，未考虑PII碎片在对话轮次间累积所带来的叠加隐私风险。一个用户可能在多个消息中分别披露姓名、雇主、位置和医疗状况，从而构成可完全重识别的个人画像，然而单条消息本身可能不会触发单轮遮蔽器。我们将这一现象形式化为累积PII暴露（Cumulative PII Exposure, CPE），并提出CAMP（Cumulative Agentic Masking and Pruning），一种用于多轮LLM对话的跨轮隐私保护框架。CAMP维护会话级PII注册表，构建实体类型间组合风险的共现图，在每轮后计算CPE分数，当分数超过可配置阈值时触发对对话历史的追溯遮蔽。我们在覆盖 healthcare、hiring、finance和一般对话四个合成多轮场景上进行评估，结果表明，单轮基线会暴露可重识别的个人画像，而CAMP成功中和了这些风险，同时保持了完整的对话效用。
引用
@article{arxiv.2604.16521,
title = {CAMP: Cumulative Agentic Masking and Pruning for Privacy Protection in Multi-Turn LLM Conversations},
author = {Aman Panjwani},
journal= {arXiv preprint arXiv:2604.16521},
year = {2026}
}
备注
Submitted to arXiv. Finance-domain multi-turn demo evaluated on 4 synthetic scenarios. Independent research