中文

基于推送的异步联邦学习:一种偏差校正聚合方法

机器学习 2026-05-27 v1 人工智能

摘要

异步去中心化联邦学习(ADFL)消除了中心协调和全局同步,使其对大规模和异构系统具有吸引力。然而,频繁的点对点通信、有向拓扑上的异步更新以及非独立同分布数据共同导致了过高的通信开销、有偏的聚合和严重的模型漂移。我们提出了PushCen-ADFL,一种通信高效的ADFL框架,能够在非对称通信和延迟客户端参与下实现稳定训练。PushCen-ADFL在共享质心表示空间中将通信、聚合和局部稳定耦合在一起,形成压缩与优化之间的闭环。客户端交换质心形式的消息,应用保平均的推求和混合来校正聚合偏差,并使用锚定在同一质心空间的轻量级质心正则化来减轻异构性和陈旧性下的漂移。一个有界、发送端去重的缓冲区进一步提高了在非规则异步到达下的鲁棒性。在视觉数据集上的实验表明,PushCen-ADFL在数据异构性下将准确率提高了高达6%,同时将每次推送的通信成本降低了80%以上,实现了良好的准确率-通信权衡。

关键词

引用

@article{arxiv.2605.26162,
  title  = {On the Push-Based Asynchronous Federated Learning: A Bias-Correction Aggregation Approach},
  author = {Jiahui Bai and Hai Dong and A. K. Qin},
  journal= {arXiv preprint arXiv:2605.26162},
  year   = {2026}
}

备注

Accepted at the 32nd ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD 2026). This is the extended version with full appendix