通过基于共识的双层优化防御联邦学习中的多样化攻击
机器学习
2025-06-10 v2 密码学与安全
多智能体系统
偏微分方程分析
摘要
对抗性攻击在许多机器学习应用中构成重大挑战，尤其是在分布式训练和联邦学习环境中，恶意代理商试图通过危害和破坏最终模型的性能和可靠性来破坏训练过程。本文通过将训练任务形式化为双层优化问题来解决联邦学习中的鲁棒性问题。我们对基于共识的双层优化（CBO）——一种交互式多粒子元启发式优化方法——在对抗性环境下的韧性进行了理论分析。具体而言，我们提供了CBO在存在恶意代理商情况下的均值场中的全局收敛分析，展示了CBO对多样化攻击的韧性。由此，我们洞察了如何通过特定的超参数选择来减轻对抗性效应。在实践方面，我们将CBO扩展到聚类联邦学习环境，提出了一种新的交互式多粒子系统FedCBO，并设计了针对实际应用需求的实用算法。大量实验表明，FedCBO算法在去中心化聚类联邦学习场景中针对标签翻转攻击表现出鲁棒性，展示了在实际场景中的有效性。
引用
@article{arxiv.2412.02535,
title = {Defending Against Diverse Attacks in Federated Learning Through Consensus-Based Bi-Level Optimization},
author = {Nicolás García Trillos and Aditya Kumar Akash and Sixu Li and Konstantin Riedl and Yuhua Zhu},
journal= {arXiv preprint arXiv:2412.02535},
year = {2025}
}