面向医疗领域类别不平衡的协同蒸馏驱动联邦学习框架
机器学习
2024-11-18 v1
摘要
联邦学习 (FL) 是分布式机器学习中的开创性方法,能在保持数据隐私的前提下实现多客户端协作训练。然而,跨多客户端资源表示的固有异质性带来显著挑战,常导致向多数类偏倚。此问题在医疗场景尤为突出,医院作为客户端共享医学图像。为解决类别不平衡并减少偏倚,我们在联邦医疗场景下提出一种协同蒸馏驱动框架。与传统指定服务器客户端的联邦设置不同,我们的框架促进客户端间知识共享以共同提升学习效果。实验表明,在联邦医疗场景下,协同蒸馏在处理类别不平衡方面优于其他联邦方法。此外,我们证明该框架在不平衡程度增加时标准差最小,同时优于其他基线,表明其在医疗联邦学习中的鲁棒性。
引用
@article{arxiv.2411.10383,
title = {Framework for Co-distillation Driven Federated Learning to Address Class Imbalance in Healthcare},
author = {Suraj Racha and Shubh Gupta and Humaira Firdowse and Aastik Solanki and Ganesh Ramakrishnan and Kshitij S. Jadhav},
journal= {arXiv preprint arXiv:2411.10383},
year = {2024}
}
备注
Accepted at CODS COMAD'24 and to be published in the Discover Data Journal(https://link.springer.com/journal/44248)