DP-GTR：通过组文本重写实现差分隐私提示保护
计算与语言
2025-11-18 v2
摘要
提示隐私至关重要，尤其是在使用在线大语言模型（LLMs）时，因为提示中常包含敏感信息。虽然大语言模型可以通过文本重写增强提示隐私，但现有方法主要关注文档级重写，忽视了文本丰富的多粒度表示。这一限制使得大语言模型的利用局限于特定任务，忽略了其泛化能力和上下文学习能力，从而阻碍了实际应用。为填补这一空白，我们提出了 DP-GTR，这是一个新颖的三阶段框架，利用局部差分隐私（DP）和通过组文本重写的组合定理。DP-GTR 是首个同时整合文档级和词级信息并利用上下文学习来同时提升隐私性和实用性的框架，有效地在单个数据点层面桥接局部和全局差分隐私机制。在 CommonSense QA 和 DocVQA 上的实验表明，DP-GTR 优于现有方法，实现了更优的隐私-实用性权衡。此外，我们的框架与现有重写技术兼容，可作为插件增强隐私保护。我们的代码在 github.com/ResponsibleAILab/DP-GTR 上公开发布。
引用
@article{arxiv.2503.04990,
title = {DP-GTR: Differentially Private Prompt Protection via Group Text Rewriting},
author = {Mingchen Li and Heng Fan and Song Fu and Junhua Ding and Yunhe Feng},
journal= {arXiv preprint arXiv:2503.04990},
year = {2025}
}
备注
9 pages, 3 figures, 5 tables