面向分布式非独立同分布且标签部分缺失数据集的医学图像分类联邦学习优化
机器学习
2023-03-14 v1 人工智能
计算机视觉与模式识别
摘要
众多大规模胸部 X 光数据集已借助深度学习推动了专家级异常检测的发展。然而,这些数据集侧重于检测可能存在疾病标签的子集,从而使其呈现分布式、非独立同分布(non-iid)且标签部分缺失的特性。近期文献指出,由于与标签部分缺失的非 iid 数据相关的域偏移,批归一化层对联邦学习的收敛产生影响。为此,我们提出 FedFBN,一种受迁移学习启发的联邦学习框架,其使用预训练网络作为模型后端,并在整个训练过程中冻结批归一化层。我们使用合成 iid 玩具数据集以及跨标签部分缺失与完整场景的大规模非 iid 数据集,结合当前 FL 策略对 FedFBN 进行评估。我们的结果表明,在使用分布式且标签部分缺失的非 iid 数据训练全局模型时,FedFBN 优于当前的聚合策略。
引用
@article{arxiv.2303.06180,
title = {Optimizing Federated Learning for Medical Image Classification on Distributed Non-iid Datasets with Partial Labels},
author = {Pranav Kulkarni and Adway Kanhere and Paul H. Yi and Vishwa S. Parekh},
journal= {arXiv preprint arXiv:2303.06180},
year = {2023}
}
备注
10 pages, 1 algorithm, 4 tables