FELARE：异构边缘系统上机器学习任务的公平调度
分布式、并行与集群计算
2022-07-22 v3 机器学习
性能
摘要
边缘计算通过并发且连续执行延迟敏感的机器学习（ML）应用，赋能基于智能IoT的系统。这些基于边缘的机器学习系统常由电池供电（即能量受限）。它们使用具有多样计算性能的异构资源（如CPU、GPU和/或FPGA）以满足ML应用的延迟约束。挑战在于针对异构边缘计算系统（HEC）分配不同ML应用的用户请求时，兼顾这些系统的能量与延迟约束。为此，我们研究并分析能在考虑能量约束的同时提高按时任务完成率的资源分配方案。重要的是，我们探究了边缘友好（轻量）的多目标映射启发式方法，其不对特定应用类型产生偏倚以实现目标；相反，这些启发式在其映射决策中考虑并发ML应用间的“公平性”。性能评估表明，所提启发式在延迟与能量目标上优于异构系统中广泛使用的启发式，尤其在低至中等请求到达率时。我们观察到按时任务完成率提升8.9%，节能12.6%，且未对边缘系统施加显著开销。
引用
@article{arxiv.2206.00065,
title = {FELARE: Fair Scheduling of Machine Learning Tasks on Heterogeneous Edge Systems},
author = {Ali Mokhtari and Md Abir Hossen and Pooyan Jamshidi and Mohsen Amini Salehi},
journal= {arXiv preprint arXiv:2206.00065},
year = {2022}
}