守护联邦学习:基于自适应客户端选择的鲁棒聚合
密码学与安全
2023-08-08 v4 分布式、并行与集群计算
摘要
联邦学习(FL)使多个客户端能够协作训练出准确的全局模型,同时保护客户端的数据隐私。然而,FL 易受来自恶意参与者的拜占庭攻击。尽管该问题已受到显著关注,现有防御存在若干缺陷:服务器即使在先前轮次中已检测到恶意客户端后仍不合理地选择它们进行聚合;这些防御在女巫攻击或异构数据设置下表现无效。为克服这些问题,我们提出 MAB-RFL,一种用于 FL 中鲁棒聚合的新方法。通过将客户端选择建模为扩展的多臂老虎机(MAB)问题,我们提出一种自适应客户端选择策略,以选择更可能贡献高质量更新的诚实客户端。随后我们提出两种从女巫与非女巫攻击中识别恶意更新的方法,并基于这些方法可准确评估每次客户端选择决策的奖励,从而抑制恶意行为。MAB-RFL 在潜在良性客户端的探索与利用之间实现了令人满意的平衡。大量实验结果表明,MAB-RFL 在不同攻击者比例下的三种攻击场景中均优于现有防御。
引用
@article{arxiv.2204.13256,
title = {Shielding Federated Learning: Robust Aggregation with Adaptive Client Selection},
author = {Wei Wan and Shengshan Hu and Jianrong Lu and Leo Yu Zhang and Hai Jin and Yuanyuan He},
journal= {arXiv preprint arXiv:2204.13256},
year = {2023}
}
备注
This paper has been published on the 31st International Joint Conference on Artificial Intelligence (IJCAI-22, Main Track, LONG Oral Presentation)