理解联邦学习中隐私与鲁棒性的相互作用
密码学与安全
2021-06-15 v1 机器学习
摘要
联邦学习（FL）作为一种有前景的隐私保护机器学习范式正在兴起，它在多个客户端上训练算法而不交换其数据样本。近期工作强调了FL中的若干隐私和鲁棒性弱点，并分别使用本地差分隐私（LDP）和传统ML中一些经过充分研究的方法来解决这些问题。然而，LDP如何影响FL中的对抗鲁棒性仍不清楚。为填补这一空白，本工作试图对LDP在FL中对对抗鲁棒性的影响建立全面理解。阐明这种相互作用具有重要意义，因为这是迈向私有且鲁棒的FL系统原则性设计的第一步。我们通过理论分析和经验验证证明，本地差分隐私对对抗鲁棒性同时具有正面和负面影响。
引用
@article{arxiv.2106.07033,
title = {Understanding the Interplay between Privacy and Robustness in Federated Learning},
author = {Yaowei Han and Yang Cao and Masatoshi Yoshikawa},
journal= {arXiv preprint arXiv:2106.07033},
year = {2021}
}