联邦学习模型聚合中的搭便车攻击
机器学习
2021-02-23 v5 机器学习
摘要
针对联邦学习的搭便车攻击是指伪装参与联邦学习过程,目的是在不实际贡献任何数据的情况下获得最终聚合模型。这类攻击在联邦学习的敏感应用中至关重要,其中数据稀缺且模型具有高商业价值。我们在此首次对基于迭代参数聚合(如 FedAvg 或 FedProx)的联邦学习方案上的搭便车攻击进行理论与实验分析,并为这些攻击收敛到公平参与者的聚合模型提供形式化保证。我们首先表明,该攻击的直接实现可简单地通过在迭代联邦优化期间不更新本地参数来完成。由于采用服务器端简单对策即可检测此攻击,我们随后研究了基于搭便车参数随机更新的更复杂伪装方案。我们在多个实验场景(包括 iid 与非 iid 设置)上演示了所提策略。最后,我们提供建议以避免联邦学习实际应用中的搭便车攻击,尤其在数据和模型安全性至关重要的敏感领域。
引用
@article{arxiv.2006.11901,
title = {Free-rider Attacks on Model Aggregation in Federated Learning},
author = {Yann Fraboni and Richard Vidal and Marco Lorenzi},
journal= {arXiv preprint arXiv:2006.11901},
year = {2021}
}