SureFED：基于不确定性感知内外审查的鲁棒联邦学习
机器学习
2024-03-04 v2 分布式、并行与集群计算
多智能体系统
摘要
在本工作中，我们提出了 SureFED，一种用于拜占庭鲁棒联邦学习的新框架。与许多依赖统计鲁棒量的现有防御方法不同（这些方法易受热 stealthy 与合谋攻击），SureFED 利用良性客户端的本地信息建立信任。SureFED 采用不确定性感知的模型评估与自省来防范投毒攻击。具体而言，每个客户端仅使用其本地数据集独立训练一个干净的本地模型，作为评估模型更新的参考点。SureFED 利用贝叶斯模型提供模型不确定性，并在模型评估过程中发挥关键作用。我们的框架即使在大多数客户端被攻陷时仍表现出鲁棒性，对恶意客户端数量不敏感，且非常适用于非独立同分布（non-IID）设置。我们从理论上证明了我们的算法在去中心化线性回归设置下对数据与模型投毒攻击的鲁棒性。在基准图像分类数据上的概念验证评估表明，在各种合谋与非合谋的数据与模型投毒攻击下，SureFED 优于最先进的防御方法。
引用
@article{arxiv.2308.02747,
title = {SureFED: Robust Federated Learning via Uncertainty-Aware Inward and Outward Inspection},
author = {Nasimeh Heydaribeni and Ruisi Zhang and Tara Javidi and Cristina Nita-Rotaru and Farinaz Koushanfar},
journal= {arXiv preprint arXiv:2308.02747},
year = {2024}
}