差分隐私文本改写中噪声的影响

文本隐私化领域常利用差分隐私（Differential Privacy, DP）的概念，为敏感文本数据的改写或混淆提供形式化保证。一种常见且几乎普遍的DP应用形式要求在文本的向量表示中添加校准噪声，无论是在数据层面还是模型层面，这均由隐私参数 $\varepsilon$ 控制。然而，添加噪声几乎无疑会导致显著的效用损失，从而凸显了DP在自然语言处理（NLP）中的一个主要缺点。在本工作中，我们引入了一种新的句子填充隐私化技术，并利用该方法探索了DP文本改写中噪声的影响。我们通过实验证明，非DP隐私化技术在保持效用方面表现出色，并能找到可接受的实验性隐私-效用权衡，但在实验性隐私保护方面无法超越DP方法。我们的结果突出了噪声在当前DP改写机制中的显著影响，进而探讨了DP在NLP中的优势与挑战，以及非DP方法所带来的机遇。