私有（深度）学习中训练数据重构的边界界定
机器学习
2022-06-24 v4 密码学与安全
摘要
差分隐私被广泛认为是机器学习中防止数据泄露的事实标准方法，且传统观点表明其对隐私攻击提供强保护。然而，现有的针对 DP 的语义保证聚焦于成员推断，这可能高估了攻击者的能力，并且在成员状态本身不敏感时不适用。在本文中，我们推导了在形式化威胁模型下 DP 机制抵御训练数据重构攻击的首个语义保证。我们展示了两种不同的隐私核算方法——Rényi 差分隐私与 Fisher 信息泄露——均对数据重构攻击提供强语义保护。
引用
@article{arxiv.2201.12383,
title = {Bounding Training Data Reconstruction in Private (Deep) Learning},
author = {Chuan Guo and Brian Karrer and Kamalika Chaudhuri and Laurens van der Maaten},
journal= {arXiv preprint arXiv:2201.12383},
year = {2022}
}