用于头颈部肿瘤自动分割的去中心化 Gossip 互学习 (GML)
图像与视频处理
2024-01-15 v1 分布式、并行与集群计算
机器学习
摘要
联邦学习 (FL) 已成为一种颇具前景的策略，可在无需共享数据的情况下，协同训练来自不同医疗中心的复杂机器学习模型。然而，传统 FL 依赖中央服务器来协调客户端之间的全局模型训练，这使其易受模型服务器故障的影响。同时，由于各中心数据特征存在差异，基于全局数据属性训练的模型可能无法在特定中心的本地数据上取得最佳性能。为解决这些局限，我们提出了 Gossip 互学习 (GML)，这是一种去中心化的协作学习框架，采用 Gossip 协议进行直接点对点通信，并通过互学习鼓励每个中心利用来自同伴的有用信息来优化其本地模型。在利用包含来自五个临床中心 223 例病例的 HECKTOR21 数据集进行 PET/CT 图像肿瘤分割的任务中，我们证明，与三种基线方法（集中训练、FedAvg 和单独训练）相比，GML 在中心特定测试病例上的肿瘤分割性能（以 Dice 相似系数 (DSC) 衡量）分别提高了 3.2%、4.6% 和 10.4%。我们还表明，当将模型应用于来自两个未参与模型训练的样本外中心的 78 例病例时，GML 具有与集中训练和 FedAvg 相当的泛化性能。在我们的实验设置中，GML 的通信开销比 FedAvg 减少了六倍，仅需总通信开销的 16.67%。
引用
@article{arxiv.2401.06180,
title = {Decentralized Gossip Mutual Learning (GML) for automatic head and neck tumor segmentation},
author = {Jingyun Chen and Yading Yuan},
journal= {arXiv preprint arXiv:2401.06180},
year = {2024}
}
备注
6 pages, 1 figure, accepted to SPIE Medical Imaging 2024