SparseFed：通过稀疏化缓解联邦学习中的模型投毒攻击
机器学习
2021-12-14 v1 人工智能
密码学与安全
摘要
联邦学习因其去中心化特性而天然易受模型投毒攻击，因为攻击者可以利用受损设备参与。在模型投毒攻击中，攻击者通过上传“投毒”更新来降低模型在目标任务（例如将飞机分类为鸟）上的性能。在本报告中，我们引入\algoname{}，一种利用全局top-k更新稀疏化与设备级梯度裁剪来缓解模型投毒攻击的新防御方法。我们提出一个用于分析防御对抗投毒攻击鲁棒性的理论框架，并给出我们算法的鲁棒性与收敛性分析。为验证其实证有效性，我们在多个计算机视觉与联邦学习基准数据集上进行了大规模开源评估。
引用
@article{arxiv.2112.06274,
title = {SparseFed: Mitigating Model Poisoning Attacks in Federated Learning with Sparsification},
author = {Ashwinee Panda and Saeed Mahloujifar and Arjun N. Bhagoji and Supriyo Chakraborty and Prateek Mittal},
journal= {arXiv preprint arXiv:2112.06274},
year = {2021}
}