重新审视个性化联邦学习：针对后门攻击的鲁棒性
机器学习
2023-06-06 v2 密码学与安全
摘要
本工作中，除提升预测精度外，我们研究个性化是否能给后门攻击带来鲁棒性益处。我们开展了 pFL 框架下后门攻击的首项研究，在基准数据集 FEMNIST 和 CIFAR-10 上测试了 4 种广泛使用的后门攻击对抗 6 种 pFL 方法，共计 600 次实验。研究表明，具有部分模型共享的 pFL 方法能显著提升针对后门攻击的鲁棒性。相比之下，具有全模型共享的 pFL 方法未表现出鲁棒性。为分析不同鲁棒性表现的原因，我们对不同 pFL 方法提供了全面的消融研究。基于我们的发现，我们进一步提出了一种轻量防御方法 Simple-Tuning，其在经验上提升了针对后门攻击的防御性能。我们相信，我们的工作既能为 pFL 在鲁棒性方面的应用提供指导，也能为未来设计更鲁棒的 FL 方法提供有价值的见解。我们开源了代码以建立 pFL 中黑盒后门攻击的首个基准：https://github.com/alibaba/FederatedScope/tree/backdoor-bench。
引用
@article{arxiv.2302.01677,
title = {Revisiting Personalized Federated Learning: Robustness Against Backdoor Attacks},
author = {Zeyu Qin and Liuyi Yao and Daoyuan Chen and Yaliang Li and Bolin Ding and Minhao Cheng},
journal= {arXiv preprint arXiv:2302.01677},
year = {2023}
}
备注
KDD 2023