中文

再写一次:增强语义相似性与隐私保护的后处理方法

计算与语言 2024-06-03 v2

摘要

差分隐私(Diffential Privacy)在自然语言处理中常将文本隐私化视为rewrite任务,即将敏感输入文本重写以隐藏显式或隐式的私人信息。为评估DP文本rewrite机制的隐私保护能力,常采用empirical privacy测试。在这些测试中,建模一个对(隐私化后)文本中作者关于敏感信息(例如性别)的推断能力的对手。为了提高DP rewrite方法提供的empirical保护,我们提出一种基于align rewritten texts with their original counterparts(以目标为目标,重新rewrite DP rewrite后的文本)的简单后处理方法。我们的结果表明,这种方法不仅产生更语义上接近原始输入的输出,还能在empirical隐私评估中平均获得更好的分数。因此,我们的方法提高了DP rewrite方法在其empirical隐私评估中的标准,为抵御恶意对手提供了额外的保护层。

关键词

引用

@article{arxiv.2405.19831,
  title  = {Just Rewrite It Again: A Post-Processing Method for Enhanced Semantic Similarity and Privacy Preservation of Differentially Private Rewritten Text},
  author = {Stephen Meisenbacher and Florian Matthes},
  journal= {arXiv preprint arXiv:2405.19831},
  year   = {2024}
}

备注

10 pages, 2 figures, 2 tables. Accepted to ARES 2024 (IWAPS)