重访基于多样化条件下的平凡联邦学习稳定性
机器学习
2025-02-28 v1
摘要
联邦学习是一种分布式机器学习范式,使去中心化客户端能够在保留数据隐私的同时协同训练模型。本文重新审视了在多样化条件下平凡 FedAvg 算法的稳定性。尽管其概念简单,FedAvg 仍然比更高级的联邦学习技术表现出惊人的稳定性能。我们的实验在血细胞和皮肤瘤分类任务中使用 Vision Transformer(ViT)评估了各种联邦学习方法的性能。此外,我们评估了不同代表性分类模型的影响并分析了对超参数变化的敏感性。结果一致表明,无论是数据集、所采用的分类模型,还是超参数设置,FedAvg 都能保持稳健的性能。鉴于其稳定性,该方法无需进行大量超参数调优,即可在处理资源受限的医院数据时提供稳健且高效的选择。这些发现凸显了平凡 FedAvg 方法作为临床实践中可信赖基准的持久价值。
引用
@article{arxiv.2502.19849,
title = {Revisit the Stability of Vanilla Federated Learning Under Diverse Conditions},
author = {Youngjoon Lee and Jinu Gong and Sun Choi and Joonhyuk Kang},
journal= {arXiv preprint arXiv:2502.19849},
year = {2025}
}
备注
10 pages