重访梯度延迟:评估异步联邦学习聚合中的距离度量
机器学习
2026-03-10 v1 人工智能
摘要
在异步联邦学习(FL)中,客户端根据各自的计算速度在不同时间向中心服务器发送更新,常使用陈旧的全局模型版本。这种延迟可能降低全局模型的收敛速度和准确性。先前工作如 AsyncFedED 采用欧几里得距离度量来衡量延迟效应。本文通过探索替代距离度量,以更准确地捕捉梯度延迟的影响,将这些度量集成到聚合过程中,并评估其对收敛速度、模型性能和训练稳定性的影响,在异构客户端和非 IID 数据设置下。我们的结果表明,某些度量方式可实现更稳健、更高效的异步 FL 训练,为实际部署提供了更坚实的基础。
引用
@article{arxiv.2603.08211,
title = {Revisiting Gradient Staleness: Evaluating Distance Metrics for Asynchronous Federated Learning Aggregation},
author = {Patrick Wilhelm and Odej Kao},
journal= {arXiv preprint arXiv:2603.08211},
year = {2026}
}