SGPRS：面向周期性深度学习工作负载的无缝 GPU 分区实时调度器
分布式、并行与集群计算
2024-06-17 v1 软件工程
系统与控制
系统与控制
摘要
深度神经网络（DNN）在包括交通、医疗保健和语音识别在内的许多应用中非常有用。尽管在提高精度方面做出了各种努力，但很少有工作研究 DNN 在实时需求背景下的应用。现有框架中的粗粒度资源分配和顺序执行导致利用率不足。在这项工作中，我们进行了 GPU 加速增益分析，并提出了 SGPRS，这是第一个考虑零配置分区切换的实时 GPU 调度器。所提出的调度器不仅满足了并行任务的更多截止时间，而且将整体性能维持在转折点之上。
引用
@article{arxiv.2406.09425,
title = {SGPRS: Seamless GPU Partitioning Real-Time Scheduler for Periodic Deep Learning Workloads},
author = {Amir Fakhim Babaei and Thidapat Chantem},
journal= {arXiv preprint arXiv:2406.09425},
year = {2024}
}
备注
2 pages, accepted and presented in DATE 2024 Conference