面向异构标签分布的联邦医学关系抽取中与主分类器向量对比
人工智能
2023-01-16 v1
摘要
联邦医学关系抽取使多个客户端能够在不共享其原始医疗数据的情况下协同训练深度网络。为了处理客户端之间异构的标签分布,大多数现有工作仅涉及在优化过程中强制局部模型和全局模型之间的正则化。在本文中,我们充分利用所有客户端的模型,并提出了一个新颖的“主分类器向量”概念,其中一组类向量是通过集成而非服务器上的加权平均方法获得的。然后,主分类器向量被分发给所有客户端,每个客户端的本地训练都与主分类器向量进行对比(FedCMC),因此本地模型不易过拟合于本地标签分布。FedCMC只需要少量额外的分类器参数传输,而不会泄露任何原始数据、提取的表示和标签分布。我们广泛的实验表明,FedCMC在三个医学关系抽取数据集上优于其他最先进的联邦学习算法。
引用
@article{arxiv.2301.05376,
title = {Contrast with Major Classifier Vectors for Federated Medical Relation Extraction with Heterogeneous Label Distribution},
author = {Chunhui Du and Hao He and Yaohui Jin},
journal= {arXiv preprint arXiv:2301.05376},
year = {2023}
}