中文

FedMe:通过模型交换的联邦学习

机器学习 2021-10-18 v1

摘要

联邦学习是一种分布式机器学习方法,其中单个服务器与多个客户端在不共享客户端数据集的情况下协作构建机器学习模型。已有大量方法被提出以应对联邦学习中的数据异质性问题。现有解决方案需要由中央服务器调整模型架构,然而一个主要技术挑战是,由于中央服务器上缺乏本地数据,难以调整模型架构。在本文中,我们提出通过模型交换的联邦学习(FedMe),该方法在学习过程中通过自动模型架构调整来个性化模型。FedMe 的新颖之处在于其学习过程:客户端交换模型以进行模型架构调整和模型训练。首先,为针对本地数据优化模型架构,客户端通过比较交换得到的模型并选择性能最佳的模型来调整自己的个性化模型。其次,尽管各客户端模型架构不同,客户端仍通过深度互学习同时训练个性化模型和交换得到的模型。我们在三个真实数据集上进行了实验,结果表明 FedMe 在自动调整模型架构的同时,性能优于最先进的联邦学习方法。

关键词

引用

@article{arxiv.2110.07868,
  title  = {FedMe: Federated Learning via Model Exchange},
  author = {Koji Matsuda and Yuya Sasaki and Chuan Xiao and Makoto Onizuka},
  journal= {arXiv preprint arXiv:2110.07868},
  year   = {2021}
}