非独立同分布数据上深度神经网络的去中心化联邦学习
机器学习
2021-07-21 v2
摘要
我们解决在去中心化设定中学习个性化深度学习模型的非凸问题。更具体地，我们研究去中心化联邦学习，一种点对点设定，其中数据分布于许多客户端且不存在中央服务器来协调训练。在真实世界场景中，数据分布常于客户端间异构。因此，在本工作中我们研究如何在具有非iid客户端数据的点对点系统中高效学习模型。我们提出一种名为基于性能的邻居选择（PENS）的方法，其中具有相似数据分布的客户端彼此检测并通过在彼此数据上评估其训练损失来合作，以学习适用于本地数据分布的模型。我们在基准数据集上的实验表明，与强基线相比，我们所提方法能够实现更高准确率。
引用
@article{arxiv.2107.08517,
title = {Decentralized federated learning of deep neural networks on non-iid data},
author = {Noa Onoszko and Gustav Karlsson and Olof Mogren and Edvin Listo Zec},
journal= {arXiv preprint arXiv:2107.08517},
year = {2021}
}
备注
7 pages, 2 figures