联邦学习中缓解拜占庭攻击的挑战与对策
密码学与安全
2022-10-10 v2 人工智能
分布式、并行与集群计算
摘要
近年来出现的联邦学习（FL）是一种颇具吸引力的分布式学习框架，其中大量无线终端用户设备可在数据保留于本地的情况下训练全局模型。与收集用户数据进行集中存储、带来巨大通信负担与数据隐私担忧的传统机器学习框架相比，该方法不仅能节省网络带宽，还可保护数据隐私。尽管前景广阔，但在传统分布式网络中难以应对的拜占庭攻击，也被发现对 FL 同样极为有效。本文对 FL 中防御拜占庭攻击的现有前沿策略进行了全面调研。我们首先根据所用技术对现有防御方案进行分类，随后进行全面的比较与讨论。接着我们提出一种称为权重攻击的新型拜占庭攻击方法以击败这些防御方案，并通过实验证明其威胁。结果表明，尽管现有防御方案繁多，仍远不足以完全保护 FL。最后，我们指出针对权重攻击的可能对策，并强调 FL 中缓解拜占庭攻击的若干挑战与未来研究方向。
引用
@article{arxiv.2112.14468,
title = {Challenges and Approaches for Mitigating Byzantine Attacks in Federated Learning},
author = {Junyu Shi and Wei Wan and Shengshan Hu and Jianrong Lu and Leo Yu Zhang},
journal= {arXiv preprint arXiv:2112.14468},
year = {2022}
}
备注
The paper has been accepted by the 21st IEEE International Conference on Trust, Security and Privacy in Computing and Communications (IEEE TrustCom-22)