重新思考半监督联邦学习：如何协同训练全标注与全无标注的客户端影像数据
机器学习
2023-10-31 v1 人工智能
计算机视觉与模式识别
摘要
半监督联邦学习 (SSFL) 中最具挑战性却最实用的设定是：少数客户端拥有全标注数据，而其余客户端拥有全无标注数据。这在医疗场景中尤为常见，其中协作方（通常为医院）可能拥有影像但无标注。该设定下的瓶颈在于标注与无标注客户端的联合训练，因为各客户端的目标函数随标注可用性而异。本文研究联邦设定下利用标注与无标注客户端有效训练的替代方式。我们提出一种专为 SSFL 设计的新型学习方案，称为隔离联邦学习 (IsoFed)，其通过避免简单平均监督与半监督模型来规避该问题。具体而言，我们的训练方法包含两部分——(a) 标注与无标注客户端模型的隔离聚合，以及 (b) 所有客户端中隔离全局模型的局部自监督预训练。我们在生物医学图像分类基准 MedMNIST 中公开可用的四种不同模态医学图像数据集上评估模型性能。我们进一步改变标注客户端比例与异质程度，以展示所提方法在多变实验设定下的有效性。
引用
@article{arxiv.2310.18815,
title = {Rethinking Semi-Supervised Federated Learning: How to co-train fully-labeled and fully-unlabeled client imaging data},
author = {Pramit Saha and Divyanshu Mishra and J. Alison Noble},
journal= {arXiv preprint arXiv:2310.18815},
year = {2023}
}
备注
Published in MICCAI 2023 with early acceptance and selected as 1 of the top 20 poster highlights under the category: Which work has the potential to impact other applications of AI and CV