SplitAVG:一种面向医学影像的异质性感知联邦深度学习方法
机器学习
2022-04-12 v5 图像与视频处理
摘要
联邦学习是一种新兴的研究范式,可在不共享患者数据的情况下协同训练深度学习模型。然而,来自不同机构的数据通常具有跨机构的异质性,这可能降低使用联邦学习训练的模型性能。在本研究中,我们提出一种新颖的异质性感知联邦学习方法SplitAVG,以克服联邦学习中数据异质性导致的性能下降。与以往需要复杂启发式训练或超参数调整的联邦方法不同,我们的SplitAVG利用简单的网络拆分与特征图拼接策略,鼓励联邦模型训练出目标数据分布的无偏估计器。我们在一系列合成与真实世界联邦数据集上,以集中托管训练数据为基线,将SplitAVG与七种最先进的联邦学习方法进行比较。我们发现,随着数据异质性程度增加,所有对比联邦学习方法训练的模型性能均显著下降。相比之下,SplitAVG方法在所有异质性设置下均取得与基线方法相当的结果:在高度异质数据划分的糖尿病视网膜病变二分类数据集和骨龄预测数据集上,其准确率分别达到基线的96.2%,平均绝对误差达到基线的110.4%。我们得出结论,SplitAVG方法能有效克服跨机构数据分布差异带来的性能下降。实验结果还表明,SplitAVG可适配不同基础网络并推广至各类医学影像任务。
引用
@article{arxiv.2107.02375,
title = {SplitAVG: A heterogeneity-aware federated deep learning method for medical imaging},
author = {Miao Zhang and Liangqiong Qu and Praveer Singh and Jayashree Kalpathy-Cramer and Daniel L. Rubin},
journal= {arXiv preprint arXiv:2107.02375},
year = {2022}
}