我们真的需要设计新的面向拜占庭容错的聚合规则吗?
密码学与安全
2025-01-30 v1 分布式、并行与集群计算
机器学习
摘要
联邦学习(FL)允许多个客户端通过服务器协同训练全局机器学习模型,而无需交换私有训练数据。然而,FL 的去中心化特性使其易受到投毒攻击,恶意客户端可通过发送篡改后的本地模型更新来操纵全局模型。为抵御这些攻击,已引入多种针对拜占庭故障具鲁棒性的聚合规则。尽管如此,这些方法仍可能面临复杂攻击,或依赖于关于服务器的不切实际假设。本文表明,无需设计新的面向拜占庭容错的聚合规则;相反,可通过增强既有聚合规则的鲁棒性来实现 FL 的安全。为此,我们提出了一种名为 FoundationFL 的新型防御机制,用于抵御投毒攻击。FoundationFL 涉及服务器在接收来自客户端的本地模型更新后生成合成更新,然后应用既有的拜占庭鲁棒的基础聚合规则(如截断均值或中位数)来组合客户端的模型更新与合成更新。我们在拜占庭设置下理论上建立了 FoundationFL 的收敛性能。广泛的实验在多个真实数据集上验证了 FoundationFL 方法的有效性。
引用
@article{arxiv.2501.17381,
title = {Do We Really Need to Design New Byzantine-robust Aggregation Rules?},
author = {Minghong Fang and Seyedsina Nabavirazavi and Zhuqing Liu and Wei Sun and Sundararaja Sitharama Iyengar and Haibo Yang},
journal= {arXiv preprint arXiv:2501.17381},
year = {2025}
}
备注
To appear in NDSS 2025