基于部分个性化注意力机制的联邦学习用于慢性阻塞性肺疾病分类
计算机视觉与模式识别
2023-03-03 v1
摘要
慢性阻塞性肺疾病(COPD)是全球第四大死因。然而,COPD 诊断严重依赖肺活量测定以及功能性气道受限,这可能导致相当比例的 COPD 患者在早期未被诊断。深度学习(DL)近期进展显示了其从 CT 图像识别 COPD 的潜力。但是,由于综合征异质性和表型差异,在一个数据中心用 CT 训练的 DL 模型无法泛化到另一中心的影像。由于隐私法规,将分布式 CT 图像集中到一个中心不可行。联邦学习(FL)方法使我们能用分布式隐私数据训练。然而,在 COPD CT 非独立同分布(Non-IID)时,常规 FL 方案性能下降。为解决这个问题,我们提出一种基于视觉 Transformer(ViT)的新型个性化联邦学习(PFL)方法,用于分布式异质 COPD CT。具体而言,我们将多头自注意力层中的部分头个性化以学习局部数据的个性化注意力,保留其他共享头以提取共同注意力。据我们所知,这是首个专门针对 ViT 识别 COPD 的 PFL 框架。我们在六个医疗中心整理的数据集上的评估表明,该方法优于面向卷积神经网络的 PFL 方法。
引用
@article{arxiv.2210.16142,
title = {Federated Learning for Chronic Obstructive Pulmonary Disease Classification with Partial Personalized Attention Mechanism},
author = {Yiqing Shen and Baiyun Liu and Ruize Yu and Yudong Wang and Shaokang Wang and Jiangfen Wu and Weidao Chen},
journal= {arXiv preprint arXiv:2210.16142},
year = {2023}
}
备注
4 pages