面向本地差分隐私下文本重写的 DP-BART 方法

基于本地差分隐私（LDP）的私有化文本重写是一种近期方法，能够在形式化保障个人隐私的前提下共享敏感文本文档。然而，现有系统面临若干问题，如形式化数学缺陷、不切实际的隐私保证、仅对单个词进行私有化，以及缺乏透明性与可复现性。本文提出一种新系统“DP-BART”，其在性能上大幅超越现有 LDP 系统。我们的方法采用一种新颖的裁剪方法、迭代剪枝以及对内部表示的进一步训练，大幅降低了实现 DP 保证所需的噪声量。我们在五个不同规模的文本数据集上开展实验，以不同隐私保证对其重写，并在下游文本分类任务上评估重写后的文本。最后，我们深入讨论了私有化文本重写方法及其局限性，包括 LDP 范式下严格文本邻接约束导致高噪声需求的问题。