中文

统一视角下的差分隐私:重新识别、属性推断与数据重构风险

机器学习 2026-02-05 v4 人工智能 密码学与安全 计算机与社会 机器学习

摘要

差分隐私机制难以解释和校准,因为现有方法将标准隐私参数映射到具体隐私风险(重新识别、属性推断和数据重构)时,既过于悲观,又不一致。本文采用差分隐私的假设检验解释(ff-DP),发现对攻击成功率的界限在重新识别、属性推断和数据重构风险之间可以采取相同的统一形式。我们的统一界限具有(1)在多种攻击场景下保持一致性,以及(2)可调节性,使实践者能够针对任意甚至最坏情况的基线风险水平进行风险评估。实验结果表明,我们的方法在 ε\varepsilon-DP、Rényi DP 和集中 DP 方面均比先前方法更紧密。因此,使用我们的界限校准噪声可在相同风险水平下降低 20% 的噪声,从而例如在文本分类任务中提升准确率从 52% 到 70%。总体而言,这一统一视角为在特定水平的重新识别、属性推断或数据重构风险下解释和校准差分隐私程度提供了原则性框架。

关键词

引用

@article{arxiv.2507.06969,
  title  = {Unifying Re-Identification, Attribute Inference, and Data Reconstruction Risks in Differential Privacy},
  author = {Bogdan Kulynych and Juan Felipe Gomez and Georgios Kaissis and Jamie Hayes and Borja Balle and Flavio P. Calmon and Jean Louis Raisaro},
  journal= {arXiv preprint arXiv:2507.06969},
  year   = {2026}
}

备注

NeurIPS 2025