面向分布式学习中拜占庭攻击的混合防御进阶
分布式、并行与集群计算
2025-06-16 v3
摘要
分布式学习（FL）使多个客户端能够在不共享本地数据的情况下协同训练全局模型。近期研究表明，FL 对拜占庭攻击极其脆弱，后者涉及恶意客户端发送被篡改的更新以降低模型性能。具体而言，许多攻击针对特定的聚合规则设计，而各种防御机制则针对特定威胁模型进行设计。本文研究了面向攻击无关 FL 场景的韧性，即服务器既不知晓攻击者的策略，也不知晓涉及的恶意客户端数量。我们首先引入针对最新攻击的混合防御机制。我们的目标是识别一种在平均情况下表现良好，同时又能避免最坏情况脆弱性的通用聚合规则。通过自适应地从可用防御方法中进行选择，我们展示了即使面对大比例被篡改更新，服务器仍能保持韧性。我们还强调，现有的 FL 防御不应自动被视为安全，正如我们新提出的 Trapsetter 攻击所示。该攻击通过进一步提高攻击影响力，显著超过其他最新攻击 5-15%。我们的发现凸显了在 FL 中开发抗拜占庭聚合算法的持续需求。
引用
@article{arxiv.2409.06474,
title = {Advancing Hybrid Defense for Byzantine Attacks in Federated Learning},
author = {Kai Yue and Richeng Jin and Chau-Wai Wong and Huaiyu Dai},
journal= {arXiv preprint arXiv:2409.06474},
year = {2025}
}