GLow——一种基于花卉的模拟性 gossip 学习策略
机器学习
2025-01-22 v1 人工智能
分布式、并行与集群计算
摘要
完全去中心化的学习算法仍处于早期发展阶段。由于收敛性挑战和去中心化系统中固有的拜占庭容错问题,创建模块化的 gossip 学习策略并不容易。我们的贡献提供了一种通过利用最新技术的花园框架(Flower Framework)来模拟自定义 gossip 学习系统的新方法。具体而言,我们引入GLow,该框架允许研究人员在自定义网络拓扑结构中训练和评估设备的可扩展性和收敛性, 在实际部署之前进行仿真。选择花园框架是因为它是具有仿真功能的图书馆,在联邦学习研究中拥有非常活跃的社区。然而,花园框架仅包括纯粹的联邦学习策略,原本并非设计用于在没有中心授权的情况下进行仿真。我们提出GLow以填补这一空白,使 gossip 学习系统的仿真成为可能。在MNIST和CIFAR10数据集上实现的GLow结果显示,准确率分别超过0.98和0.75。更重要的是,GLow在所有设计的实验中在准确性和收敛性方面与其对应的集中式和联邦方法表现相当。
引用
@article{arxiv.2501.10463,
title = {GLow -- A Novel, Flower-Based Simulated Gossip Learning Strategy},
author = {Aitor Belenguer and Jose A. Pascual and Javier Navaridas},
journal= {arXiv preprint arXiv:2501.10463},
year = {2025}
}
备注
10 pages, 7 figures, 2 tables, source code: https://github.com/AitorB16/GLow