基于客户端漂移最小化的分布鲁棒性联邦学习
机器学习
2025-05-22 v1
摘要
联邦学习面临诸多挑战，尤其是在数据在客户端之间非独立同分布的异构环境中，这会导致模型性能不公平且效率低下。本工作引入了 \textit{DRDM}，一种新型算法，通过结合分布鲁棒优化（DRO）框架和动态正则化来缓解客户端漂移问题。\textit{DRDM} 将训练建模为最大化最差情况客户端性能的 min-max 优化问题，从而促进鲁棒性和公平性。通过利用动态正则化和高效局部更新来优化该鲁棒目标，可显著减少所需的通信轮数。此外，我们在部分参与的情况下，对凸光滑目标提供了收敛性分析。广泛的实验在三个基准数据集上进行，涵盖各种模型架构和数据异构性水平，表明 \textit{DRDM} 在最差情况测试准确率方面显著优于现有最先进的基线方法，同时所需通信轮数更少。此外，我们分析了信噪比（SNR）和带宽对参与客户端能耗的影响，证明可以在不同通信环境下通过自适应选择局部更新步数，以实现目标最差情况测试准确率，同时最小化总能耗。
关键词
引用
@article{arxiv.2505.15371,
title = {Distributionally Robust Federated Learning with Client Drift Minimization},
author = {Mounssif Krouka and Chaouki Ben Issaid and Mehdi Bennis},
journal= {arXiv preprint arXiv:2505.15371},
year = {2025}
}