面向噪声鲁棒与资源高效的基于 ADMM 的联邦学习

联邦学习（FL）利用客户端-服务器通信在去中心化数据上训练全局模型。然而，通信噪声或错误会影响模型准确性。为此，我们提出一种新型 FL 算法，增强其对通信噪声的鲁棒性，同时降低通信负载。我们以加权最小二乘（WLS）回归问题作为示例推导了所提出算法。首先，我们将 WLS 回归建模为在采用随机调度以提高通信效率的联邦网络上求解的分布式凸优化问题。随后，我们应用交替方向乘子法（ADMM）迭代求解该问题。为抵消累积通信噪声的不利影响，我们通过消除对偶变量并在每个参与客户端实现新的本地模型更新而进行关键修改。这种微小但有效的改变使得每个客户端只使用一个噪声全局模型更新，而不是两个，从而提高了对加性通信噪声的鲁棒性。此外，我们引入另一修改，使客户端即使未被服务器选中也能继续本地更新，从而显著提升性能。我们的理论分析表明，即使服务器在每次迭代中通过噪声链路与随机子集客户端通信，所提出算法在均值和均方意义下均收敛。数值结果验证了所提出算法的有效性并证实了我们的理论发现。