中文

Prophet:通过预测训练与上报阶段质量实现联邦学习的主动候选选择

机器学习 2020-05-20 v2 分布式、并行与集群计算 机器学习

摘要

尽管在 5G 网络中设备连接的挑战已大幅缓解,训练延迟仍是阻碍联邦学习(FL)大规模采用的障碍。导致高延迟的最基本问题之一是 FL 糟糕的候选选择。在动态环境中,现有反应式候选选择算法所选的移动设备极有可能无法完成 FL 的训练与上报阶段,因为 FL 参数服务器仅知晓所有候选当前观测到的资源。为此,本文研究 FL 的主动候选选择。我们首先让每个候选设备使用 LSTM 本地预测其训练与上报两阶段的质量。随后,所提候选选择算法由深度强化学习(DRL)框架实现。最后,真实轨迹驱动的实验证明所提方法优于现有反应式算法。

关键词

引用

@article{arxiv.2002.00577,
  title  = {Prophet: Proactive Candidate-Selection for Federated Learning by Predicting the Qualities of Training and Reporting Phases},
  author = {Huawei Huang and Kangying Lin and Song Guo and Pan Zhou and Zibin Zheng},
  journal= {arXiv preprint arXiv:2002.00577},
  year   = {2020}
}

备注

We found significant technique errors in our previous version. The proposed DRL-based algorithm cannot solve the large-scale scheduling for federated learning. For the health of relevant research communities, we decide to withdraw our submission