联邦学习中用于鲁棒性与隐私的本地与中心差分隐私
密码学与安全
2022-05-30 v5 人工智能
摘要
联邦学习（FL）允许多个参与者通过保持数据集本地化而仅交换模型更新来协作训练机器学习模型。然而，这未必免于隐私与鲁棒性漏洞，例如通过成员推断、属性推断和后门攻击。本文研究了是否以及在多大程度上可以使用差分隐私（DP）来保护 FL 中的隐私与鲁棒性。为此，我们首次对 FL 中的本地与中心差分隐私（LDP/CDP）技术进行了评估，评估其可行性与有效性。我们的实验表明，两种 DP 变体确实能防御后门攻击，尽管保护-效用权衡水平不同，但无论如何都比其他鲁棒性防御更有效。DP 还缓解了 FL 中的白盒成员推断攻击，而我们的工作是首个通过实验证明这一点的。然而，LDP 与 CDP 均不能防御属性推断。总体而言，我们的工作提供了一种全面、可复用的测量方法，以量化差分隐私 FL 中鲁棒性/隐私与效用之间的权衡。
引用
@article{arxiv.2009.03561,
title = {Local and Central Differential Privacy for Robustness and Privacy in Federated Learning},
author = {Mohammad Naseri and Jamie Hayes and Emiliano De Cristofaro},
journal= {arXiv preprint arXiv:2009.03561},
year = {2022}
}