OL4EL:面向资源受限异构边缘的云边协同在线学习框架
分布式、并行与集群计算
2020-04-24 v2 机器学习
机器学习
摘要
网络边缘的分布式机器学习(ML)是一种有前景的范式,能够同时保护网络带宽和数据提供者的隐私。然而,边缘服务器(或边缘节点)上异构且有限的计算与通信资源给分布式机器学习带来了巨大挑战,并催生了边缘学习(即云边协同机器学习)这一新范式。在本文中,我们提出了一种新颖的“学会学习”框架,用于在资源受限的异构边缘上实现高效的边缘学习(EL)。我们首先将协作策略(即边缘服务器上的本地迭代次数与云端的全局聚合次数在协同学习过程中的动态确定)建模为一个在线优化问题,以在EL性能与边缘服务器资源消耗之间取得权衡。随后,我们基于预算受限的多臂老虎机模型提出了面向边缘学习的在线学习(OL4EL)框架。OL4EL支持同步与异步学习模式,并可应用于监督与无监督学习任务。为评估OL4EL的性能,我们基于docker容器开展了真实测试床实验与大量仿真,其中以支持向量机和K-means作为用例。实验结果表明,在学习的性能与资源消耗权衡方面,OL4EL显著优于最先进的EL及其他协同ML方法。
引用
@article{arxiv.2004.10387,
title = {OL4EL: Online Learning for Edge-cloud Collaborative Learning on Heterogeneous Edges with Resource Constraints},
author = {Qing Han and Shusen Yang and Xuebin Ren and Cong Zhao and Jingqi Zhang and Xinyu Yang},
journal= {arXiv preprint arXiv:2004.10387},
year = {2020}
}
备注
7 pages, 5 figures, to appear in IEEE Communications Magazine