Helios：具有动态平衡协作的异构感知联邦学习
分布式、并行与集群计算
2021-03-02 v2
摘要
在本文中，我们提出 Helios，一个异构感知的联邦学习（FL）框架，以解决掉队者问题。Helios 识别各设备的异构训练能力，从而确定与协作训练节奏相关的神经网络模型预期训练量。对于掉队设备，提出一种“软训练”方法，通过旋转神经元训练方式将原始相同的训练模型动态压缩至预期体量。通过广泛的算法分析与优化方案，可在保留本地训练及联邦协作收敛性的同时加速掉队者。
引用
@article{arxiv.1912.01684,
title = {Helios: Heterogeneity-Aware Federated Learning with Dynamically Balanced Collaboration},
author = {Zirui Xu and Fuxun Yu and Jinjun Xiong and Xiang Chen},
journal= {arXiv preprint arXiv:1912.01684},
year = {2021}
}
备注
6 pages, 7 figures