跨孤岛异构模型联邦多任务学习
机器学习
2022-08-19 v5
摘要
联邦学习(FL)是一种使参与者能够在不交换私有数据的情况下协作训练高质量模型的机器学习技术。采用跨孤岛联邦学习(CS-FL)设置的参与者是具有不同任务需求的独立组织,他们不仅关注数据隐私,还因知识产权考量而关注独立训练其独有模型。大多数现有FL方法无法满足上述场景。在本研究中,我们提出了一种新颖的联邦学习方法CoFED,其基于通过称为协同训练的过程对无标签数据进行伪标注。CoFED是一种兼容异构模型、任务和训练过程的联邦学习方法。实验结果表明,所提方法优于对比方法。对于非独立同分布设置和异构模型而言尤为如此,所提方法取得了35%的性能提升。
引用
@article{arxiv.2202.08603,
title = {Cross-Silo Heterogeneous Model Federated Multitask Learning},
author = {Xingjian Cao and Zonghang Li and Gang Sun and Hongfang Yu and Mohsen Guizani},
journal= {arXiv preprint arXiv:2202.08603},
year = {2022}
}