面向通信高效联邦学习的带回收的逐层更新聚合
机器学习
2026-02-11 v2
摘要
高昂的通信成本是联邦学习 (FL) 中常见的性能瓶颈，这使其在现实应用中缺乏吸引力。许多通信高效的 FL 方法主要基于梯度幅度丢弃一部分模型更新。在本研究中，我们发现回收之前的更新，而不是简单地丢弃它们，能在保持 FL 性能的同时更有效地降低通信成本。我们提出了 FedLUAR，一种用于通信高效 FL 的带回收的逐层更新聚合方案。我们首先定义了一个有用的指标，用于量化聚合梯度对每层模型参数值的影响程度。FedLUAR 基于该指标选择若干层，并在服务器端回收它们之前的更新。我们广泛的实证研究表明，更新回收方案在保持模型准确率的同时显著降低了通信成本。例如，我们的方法在 AG News 上实现了与 FedAvg 几乎相同的准确率，同时将通信成本降至仅 17%。
引用
@article{arxiv.2503.11146,
title = {Layer-wise Update Aggregation with Recycling for Communication-Efficient Federated Learning},
author = {Jisoo Kim and Sungmin Kang and Sunwoo Lee},
journal= {arXiv preprint arXiv:2503.11146},
year = {2026}
}
备注
NeurIPS 2025