拜占庭攻击下具有2-f冗余的分布式非凸优化中的弹性联邦学习
最优化与控制
2023-12-19 v1
摘要
我们研究了分布式优化设置中的拜占庭容错问题，其中有一组N个智能体与一个可信的中心协调器通信。在这些智能体中，有一个子集f个智能体可能不遵循规定的算法，并可能向协调器共享任意不正确的信息。目标是找到诚实智能体聚合代价函数的最优解。我们将关注局部梯度下降方法（也称为联邦学习）来解决这个问题。然而，在拜占庭设置中，该方法通常返回底层最优解的近似值。最近的工作表明，通过在协调器处加入所谓的比较消除（CE）滤波器，可以在凸设置中可证明地减轻拜占庭智能体的有害影响并精确计算真实最优解。本文的重点是提供理论结果，以证明带有CE滤波器的局部梯度方法在非凸设置中的收敛性。我们还将提供一些数值模拟来支持我们的理论结果。
引用
@article{arxiv.2312.10189,
title = {Resilient Federated Learning under Byzantine Attack in Distributed Nonconvex Optimization with 2-f Redundancy},
author = {Amit Dutta and Thinh T. Doan and Jeffrey H. Reed},
journal= {arXiv preprint arXiv:2312.10189},
year = {2023}
}