中文

EdgeOL:边缘设备上的高效原位在线学习

机器学习 2025-05-19 v6 计算机视觉与模式识别 分布式、并行与集群计算

摘要

新兴应用,如机器人辅助养老和物体识别,通常采用深度学习神经网络(DNNs),并自然要求:i) 处理流式推理请求,以及 ii) 适应可能的部署场景变化。在线模型微调被广泛采用以满足这些需求。然而,不恰当的微调方案可能涉及显著的能耗,使其难以部署在边缘设备上。在本文中,我们提出了 EdgeOL,一个边缘在线学习框架,通过调优间和调优内优化来优化推理精度、微调执行时间和能效。实验结果表明,与即时在线学习策略相比,EdgeOL 平均减少了 64% 的整体微调执行时间,降低了 52% 的能耗,并将平均推理精度提高了 1.75%。

关键词

引用

@article{arxiv.2401.16694,
  title  = {EdgeOL: Efficient in-situ Online Learning on Edge Devices},
  author = {Sheng Li and Geng Yuan and Yue Dai and Tianyu Wang and Yawen Wu and Alex K. Jones and Jingtong Hu and Tony and Geng and Yanzhi Wang and Bo Yuan and Yufei Ding and Xulong Tang},
  journal= {arXiv preprint arXiv:2401.16694},
  year   = {2025}
}