异构移动边缘学习中数据集大小与本地更新的联合优化

Umair Mohammad; Sameh Sorour; Mohamed Hefeida

异构移动边缘学习中数据集大小与本地更新的联合优化

信号处理 2021-02-23 v3 分布式、并行与集群计算机器学习

作者: Umair Mohammad , Sameh Sorour , Mohamed Hefeida

摘要

本文旨在最大化在资源受限的无线边缘上连接的学习器上训练的分布式机器学习 (ML) 模型的准确率。我们联合优化本地/全局更新的次数和任务大小分配，以最小化损失，同时考虑每个学习器异构的通信和计算能力。通过利用任何给定迭代的训练损失与理论最优损失之间差异的现有界限，我们推导出用本地更新次数表示的目标函数表达式。求解所得的凸规划问题以获得最优的本地更新次数，进而用于获取每个学习器的总更新次数和批次大小。通过将其性能与异构无感知 (HU) 方法进行比较，展示了所提出的异构感知 (HA) 解决方案的优点。

关键词

移动边缘学习分布式机器学习异构学习器本地更新数据集大小优化凸优化

引用

@article{arxiv.2006.07402,
  title  = {Jointly Optimizing Dataset Size and Local Updates in Heterogeneous Mobile Edge Learning},
  author = {Umair Mohammad and Sameh Sorour and Mohamed Hefeida},
  journal= {arXiv preprint arXiv:2006.07402},
  year   = {2021}
}

备注

7 pages, 3 figures, This paper has been submitted to the IEEE for possible publication

异构移动边缘学习中数据集大小与本地更新的联合优化

摘要

关键词

引用

备注

相关论文