EdgeRL：基于强化学习的边缘深度学习模型推理优化框架
分布式、并行与集群计算
2024-10-17 v1 人工智能
机器学习
摘要
在边缘环境中，对深度学习模型推理进行优化面临处理延迟、结果准确性和终端设备能耗等相互矛盾的性能指标之间的平衡这一难题。本文提出 EdgeRL 框架，通过采用 Advantage Actor-Critic (A2C) 强化学习方法，在运行时选择最佳 DNN 推理参数，并根据应用需求调整性能指标。使用真实的深度学习模型和硬件测试平台，我们评估了 EdgeRL 框架在终端设备能耗节省、推理准确性提升和端到端推理延迟降低方面的优势。
引用
@article{arxiv.2410.12221,
title = {EdgeRL: Reinforcement Learning-driven Deep Learning Model Inference Optimization at Edge},
author = {Motahare Mounesan and Xiaojie Zhang and Saptarshi Debroy},
journal= {arXiv preprint arXiv:2410.12221},
year = {2024}
}