SelfFed：面向医学图像数据异构与标签稀缺的自监督联邦学习框架
机器学习
2025-02-05 v3 计算机视觉与模式识别
摘要
联邦学习范式中的自监督学习因能在未标注且孤立的数据上进行协作学习，而在工业界与研究领域日益受到关注。然而，基于自监督的联邦学习策略由于标签稀缺与数据分布多样（即数据异构）而面临性能下降的问题。本文提出面向医学图像的 SelfFed 框架，以克服数据异构与标签稀缺问题。SelfFed 框架的第一阶段通过利用预训练范式，以去中心化方式使用基于 Swin Transformer 的编码器进行增强建模，从而缓解数据异构问题。标签稀缺问题则通过引入对比网络与一种新颖聚合策略的微调范式来解决。我们在公开可用的医学成像数据集上开展实验分析，表明 SelfFed 相较于现有基线与方法表现更优。我们的方法在非独立同分布（non-IID）数据集的 Retina 与 COVID-FL 数据集上分别实现了最高 8.8% 与 4.1% 的提升。此外，即便仅在少量（10%）标注样本上训练，我们所提方法仍优于现有基线。
引用
@article{arxiv.2307.01514,
title = {SelfFed: Self-Supervised Federated Learning for Data Heterogeneity and Label Scarcity in Medical Images},
author = {Sunder Ali Khowaja and Kapal Dev and Syed Muhammad Anwar and Marius George Linguraru},
journal= {arXiv preprint arXiv:2307.01514},
year = {2025}
}
备注
22 pages, 10 figures, 2 tables