Delta Sum 学习：面向 Gossip Learning 快速收敛与全局收敛的方法
分布式、并行与集群计算
2025-12-02 v1 人工智能
摘要
联邦学习因其安全性和计算优势而广受欢迎。随着网络边缘强大设备的出现，Gossip Learning 进一步去中心化联邦学习，完全依赖点对点更新。然而，Gossip Learning 和联邦学习中常用的平均方法对于模型精度和全局收敛并不理想。此外，缺乏采用类似 Kubernetes 声明式方法部署学习工作负载的选项。本文提出 Delta Sum Learning 作为改进 Gossip Learning 中基本聚合操作的方法，并在基于 Open Application Model 的去中心化编排框架中实现其部署。该框架允许动态节点发现和基于意图的多工作负载应用部署。评估结果表明，Delta Sum 在 10 节点�拓扑结构下性能与替代集成方法相当，但在扩展至 50 节点时，全局精度下降仅为 58%。总体而言，Delta Sum 显示出强大的全局收敛能力，与替代方法相比，在受限连接条件下，随着拓扑规模增大，其精度损失呈对数增长，而替代方法为线性增长。
引用
@article{arxiv.2512.01549,
title = {Delta Sum Learning: an approach for fast and global convergence in Gossip Learning},
author = {Tom Goethals and Merlijn Sebrechts and Stijn De Schrijver and Filip De Turck and Bruno Volckaert},
journal= {arXiv preprint arXiv:2512.01549},
year = {2025}
}