具有标签差分隐私的深度学习
机器学习
2021-10-28 v2 数据结构与算法
摘要
随机响应（RR）算法是一种用于提升调查聚合鲁棒性的经典技术，并已被广泛应用于具有差分隐私保证的应用中。我们提出了一种新算法——带先验的随机响应（RRWithPrior），其能在保持与RR相同隐私保障水平的同时提供更精确的结果。随后我们将RRWithPrior应用于具有标签差分隐私（LabelDP）的神经网络学习，并表明当仅需保护标签时，模型性能可较先前最先进的私有基线显著提升。此外，我们研究了获取先验的不同方式，将其与RRWithPrior结合使用可进一步改善模型性能，从而缩小私有与非私有模型之间的精度差距。我们以理论分析补充了实证结果，表明LabelDP在可证明意义上比同时保护输入与标签更为容易。
引用
@article{arxiv.2102.06062,
title = {Deep Learning with Label Differential Privacy},
author = {Badih Ghazi and Noah Golowich and Ravi Kumar and Pasin Manurangsi and Chiyuan Zhang},
journal= {arXiv preprint arXiv:2102.06062},
year = {2021}
}
备注
NeurIPS 2021; 29 pages, 6 figures