差分隐私与对抗样本鲁棒性的统一视角
机器学习
2019-06-20 v1 密码学与安全
机器学习
摘要
本短注强调了在可信机器学习这一新兴课题中两条研究路线之间的联系：差分隐私与对抗样本鲁棒性。通过抽象二者的定义，我们表明它们建立在相同的理论基础上，因此迄今为止在一个领域获得的结果可迁移至另一领域。更确切地说，我们的分析基于两个关键要素：概率映射（在差分隐私领域亦称随机算法）以及涵盖了广大散度族的 Renyi 散度。我们首先将对抗样本鲁棒性的定义推广到包含概率映射。随后我们观察到 Renyi 差分隐私（近期~\cite{Mironov2017RenyiDP} 提出的差分隐私的推广）与我们的鲁棒性定义有几处相似之处。最后我们讨论了两个社区如何受益于这一联系，将技术工具从一个研究领域迁移到另一个。
引用
@article{arxiv.1906.07982,
title = {A unified view on differential privacy and robustness to adversarial examples},
author = {Rafael Pinot and Florian Yger and Cédric Gouy-Pailler and Jamal Atif},
journal= {arXiv preprint arXiv:1906.07982},
year = {2019}
}