EdgeMLBalancer：面向资源受限边缘设备的自适应动态模型切换方法
软件工程
2025-02-11 v1
摘要
机器学习在边缘设备（如移动电话、笔记本电脑、物联网设备等）上的广泛采用，使实时 AI 应用得以在资源受限的环境中实现。现有资源管理解决方案往往仅聚焦于准确率或能源效率，无法适应不同工作负载的动态变化。此外，现有系统缺乏稳健的机制来自适应地平衡 CPU 利用率，导致资源受限场景（如实时交通监控）效率低下。为克服这些限制，我们提出一种自适应方法，可优化边缘设备上的 CPU 利用率和资源管理。我们的 EdgeMLBalancer 通过动态切换模型来实现平衡，由跨处理器核心的实时 CPU 使用情况监控驱动。我们在实时交通数据上进行测试，根据 CPU 使用情况切换对象检测模型，确保高效的资源利用。该方法利用 epsilon-贪婪策略以促进公平性并防止资源饿死，保持系统的鲁棒性。我们的评估结果显示，在平衡计算效率和准确率方面显著提高，凸显了该方法适应不同工作负载的能力。这一工作为在资源受限环境中实现自适应提供了基础，为进一步的发展奠定了基础。
关键词
引用
@article{arxiv.2502.06493,
title = {EdgeMLBalancer: A Self-Adaptive Approach for Dynamic Model Switching on Resource-Constrained Edge Devices},
author = {Akhila Matathammal and Kriti Gupta and Larissa Lavanya and Ananya Vishal Halgatti and Priyanshi Gupta and Karthik Vaidhyanathan},
journal= {arXiv preprint arXiv:2502.06493},
year = {2025}
}