中文

基于表示蒸馏的医疗协作网络纵向联邦知识迁移

机器学习 2023-02-14 v1

摘要

医疗机构之间的协作能够显著缓解不同地区医疗资源的不平衡。然而,由于患者高度敏感隐私的保护,机构之间直接共享诊断信息通常不被允许。作为一种新颖的隐私保护机器学习范式,联邦学习(FL)使得最大化多家医疗机构间的数据效用成为可能。这些特征增强型联邦学习技术被称为纵向联邦学习(VFL)。传统 VFL 只能惠及多方共享样本,这极大地限制了其应用范围。为了提升各类医疗相关机构的信息共享能力与创新性,进而建立下一代开放式医疗协作网络,我们提出了一种基于新颖跨医院表示蒸馏组件的纵向联邦知识迁移机制统一框架(VFedTrans)。具体而言,我们的框架包含三个步骤。首先,利用当前高效的纵向联邦表示学习方法对多方联合特征进行协作建模,提取共享样本的联邦表示。其次,对每家医院,我们学习一个局部表示蒸馏模块,该模块可将共享样本的联邦表示中的知识迁移过来,以丰富本地样本的表示。最后,每家医院均可利用经蒸馏模块丰富的本地样本表示来提升任意下游机器学习任务。在真实医疗数据集上的实验验证了我们所提框架的知识迁移有效性。

关键词

引用

@article{arxiv.2302.05675,
  title  = {Vertical Federated Knowledge Transfer via Representation Distillation for Healthcare Collaboration Networks},
  author = {Chung-ju Huang and Leye Wang and Xiao Han},
  journal= {arXiv preprint arXiv:2302.05675},
  year   = {2023}
}