文本消毒的漏洞性
密码学与安全
2025-05-06 v3
摘要
文本消毒采用差分隐私技术将敏感标记替换为新标记，代表着一种重要的隐私保护技术。通常，其在保护隐私方面的性能通过衡量重建攻击的攻击成功率（ASR）来评估，其中攻击者尝试从消毒后的标记中恢复原始标记。然而，当前针对文本消毒的重建攻击是经验性地开发的，这使得准确评估消毒效果具有挑战性。在本文中，我们旨在提供更准确的消毒效果评估。灵感来自 Palamidessi 等人的工作，我们实现针对文本消毒的理论上最优的重建攻击。我们推导出它们对 ASR 的界限作为评估消毒性能的基准。对于实际应用，我们提出了基于这些理论发现的两个实用重建攻击。我们的实验结果强调了重新评估这些被忽视的风险的必要性。值得注意的是，我们的一个攻击在 epsilon=4.0 的隐私预算下，在 SST-2 数据集上实现了比当前最佳基线的 46.4% 的 ASR 提升。我们的代码可用于：https://github.com/mengtong0110/On-the-Vulnerability-of-Text-Sanitization。
引用
@article{arxiv.2410.17052,
title = {On the Vulnerability of Text Sanitization},
author = {Meng Tong and Kejiang Chen and Xiaojian Yuan and Jiayang Liu and Weiming Zhang and Nenghai Yu and Jie Zhang},
journal= {arXiv preprint arXiv:2410.17052},
year = {2025}
}
备注
NAACL 2025