Tram-FL:基于路由的模型训练用于去中心化联邦学习
机器学习
2024-10-28 v1 分布式、并行与集群计算
网络与互联网体系结构
摘要
在去中心化联邦学习(DFL)中,频繁节点间通信产生的大量流量与非独立同分布(non-IID)数据,对获取高精度模型构成挑战。我们提出一种新颖的DFL方法Tram-FL,其通过按顺序在节点间传递全局模型来逐步精炼,而非交换与聚合本地模型。我们还引入一种动态模型路由算法以选择最优路径,旨在以最小转发量提升模型精度。我们使用MNIST、CIFAR-10与IMDb数据集的实验表明,所提路由的Tram-FL在non-IID条件下取得高模型准确率,优于基线同时降低通信成本。
引用
@article{arxiv.2308.04762,
title = {Tram-FL: Routing-based Model Training for Decentralized Federated Learning},
author = {Kota Maejima and Takayuki Nishio and Asato Yamazaki and Yuko Hara-Azumi},
journal= {arXiv preprint arXiv:2308.04762},
year = {2024}
}
备注
This work has been submitted to the IEEE for possible publication