虚假的隐私感：评估文本数据清理超出表面级隐私泄露
密码学与安全
2026-03-17 v4 计算与语言
机器学习
摘要
通常情况下，文本数据清理涉及删除可识别个人信息 (PII) 或生成合成数据，假设这些方法足以保护隐私；然而，其有效性通常仅通过测量显式标识符的泄露来评估，而忽略了可能导致重新识别的细微文本标记。我们通过提出一种新框架来评估重新识别攻击，以量化数据发布后的个人隐私风险来挑战上述隐私幻觉。我们的表明，看似无害的辅助信息——例如日常社交活动——可用于从已清理的数据中推断出敏感属性，如年龄或物质使用史。例如，我们演示 Azure 的商业 PII 删除工具未能保护 MedQA 数据集中 74% 的信息。尽管差分隐私在某种程度上缓解了这些风险，但显著降低了已清理文本对下游任务的效用。我们的发现表明，当前的清理技术提供了一种 \textit{虚假的隐私感}，凸显需要更健壮的方法来保护免受语义层次信息泄露。
引用
@article{arxiv.2504.21035,
title = {A False Sense of Privacy: Evaluating Textual Data Sanitization Beyond Surface-level Privacy Leakage},
author = {Rui Xin and Niloofar Mireshghallah and Shuyue Stella Li and Michael Duan and Hyunwoo Kim and Yejin Choi and Yulia Tsvetkov and Sewoong Oh and Pang Wei Koh},
journal= {arXiv preprint arXiv:2504.21035},
year = {2026}
}