联邦多小批量：非独立同分布环境下联邦学习的高效训练方法
机器学习
2021-07-06 v2 机器学习
摘要
联邦学习面临性能和网络通信挑战，尤其在客户端数据非独立同分布（IID）的环境中。为解决前者挑战，我们引入联邦-集中一致性性质，并表明联邦单小批量训练方法在非IID环境中能达到与相应集中式训练相当的性能。为处理后一挑战，我们提出联邦多小批量方法，并说明其能在性能与通信效率之间建立权衡，并在非IID设置下优于联邦平均。
引用
@article{arxiv.2011.07006,
title = {Federated Multi-Mini-Batch: An Efficient Training Approach to Federated Learning in Non-IID Environments},
author = {Reza Nasirigerdeh and Mohammad Bakhtiari and Reihaneh Torkzadehmahani and Amirhossein Bayat and Markus List and David B. Blumenthal and Jan Baumbach},
journal= {arXiv preprint arXiv:2011.07006},
year = {2021}
}