FedGraph:一种基于图视角的聚合方法
计算机视觉与模式识别
2022-10-07 v1
摘要
随着数据隐私法规的日益强化以及数据集中化的困难,联邦学习(FL)已成为在保护各客户端隐私的同时协同训练模型的有效解决方案。FedAvg 是一种标准聚合算法,将各客户端数据集大小的比例作为聚合权重。然而,由于其固定的聚合权重且忽视数据分布,它无法很好地处理非独立同分布(non-i.i.d)数据。在本文中,我们提出一种能够有效处理 non-i.i.d 数据集的聚合策略,即 FedGraph,它可在整个训练过程中根据本地模型的训练情况自适应调整聚合权重。FedGraph 从粗到细考虑三个因素:各本地数据集大小的比例、模型图的拓扑因子以及模型权重。我们通过将本地模型转化为拓扑图来计算本地模型之间的引力。FedGraph 可通过各本地数据集比例、拓扑结构与模型权重的加权组合更好地挖掘本地模型之间的内部关联。所提出的 FedGraph 已应用于 MICCAI Federated Tumor Segmentation Challenge 2021(FeTS)数据集,验证结果表明我们的方法以 2.76 的平均 Dice 相似度得分超越先前的最优方法。源代码将在 Github 上公开。
引用
@article{arxiv.2210.02733,
title = {FedGraph: an Aggregation Method from Graph Perspective},
author = {Zhifang Deng and Xiaohong Huang and Dandan Li and Xueguang Yuan},
journal= {arXiv preprint arXiv:2210.02733},
year = {2022}
}