GCAPS：面向实时任务的GPU上下文感知抢占式优先级调度
分布式、并行与集群计算
2024-06-11 v1
摘要
调度利用GPU的实时任务并具有可分析保证是一个重大挑战，因为CPU和GPU资源之间的复杂交互，以及复杂的GPU硬件和软件栈。尽管实时研究社区已经进行了大量研究，但仍然存在一些限制，包括GPU级抢占的缺失或有限可用性、长阻塞时间，以及/或需要对程序代码进行大量修改。在本文中，我们提出了GCAPS，一种面向实时GPU任务的GPU上下文感知抢占式调度方法。我们的方法在设备驱动程序级别控制GPU上下文调度，并通过在GPU段边界添加一行宏来基于任务优先级实现GPU执行的抢占。此外，我们为使用GPU的任务提供了全面的响应时间分析，包括我们提出的方法和默认的Nvidia GPU驱动程序调度（采用工作守恒轮询策略）。通过实证评估和案例研究，我们展示了所提方法在提高任务集可调度性和响应时间方面的有效性。结果显示了相对于先前工作以及默认调度方法的显著改进，可调度性提高高达40%，同时在Nvidia Jetson嵌入式平台上实现了可预测的最坏情况行为。
引用
@article{arxiv.2406.05221,
title = {GCAPS: GPU Context-Aware Preemptive Priority-based Scheduling for Real-Time Tasks},
author = {Yidi Wang and Cong Liu and Daniel Wong and Hyoseung Kim},
journal= {arXiv preprint arXiv:2406.05221},
year = {2024}
}
备注
Accepted by ECRTS 2024. arXiv admin note: substantial text overlap with arXiv:2401.16529