面向异构数据的持续水平联邦学习
机器学习
2022-11-15 v2
摘要
联邦学习是一种有前景的机器学习技术，使多个客户端能够协作构建模型而不向彼此泄露原始数据。在各类联邦学习方法中，水平联邦学习（HFL）是研究最充分的类别，处理同构特征空间。然而，在异构特征空间情况下，HFL 仅使用公共特征而弃用客户端特有特征。本文提出一种使用神经网络的 HFL 方法，称为持续水平联邦学习（CHFL），这是一种持续学习方法，通过利用各客户端的独特特征提升 HFL 性能。CHFL 将网络拆分为分别对应公共特征与独特特征的两列。它通过原生 HFL 利用公共特征联合训练第一列，并利用独特特征及经由横向连接借助第一列知识在本地训练第二列，且不干扰其联邦训练。我们在多个真实世界数据集上实验，表明 CHFL 大幅优于仅使用公共特征的原生 HFL 以及使用各客户端所有特征的本地学习。
引用
@article{arxiv.2203.02108,
title = {Continual Horizontal Federated Learning for Heterogeneous Data},
author = {Junki Mori and Isamu Teranishi and Ryo Furukawa},
journal= {arXiv preprint arXiv:2203.02108},
year = {2022}
}
备注
Published at IJCNN 2022