解耦 GPU 编程模型与资源管理以提升编程易用性、可移植性与性能

应用资源规约——对线程数、每个线程块的暂存器内存使用量等若干参数的静态规定——构成了现代 GPU 编程模型的关键组成部分。该规约决定了应用执行时的并行度乃至性能，因为相应的片上硬件资源正是依据此规约进行分配与管理的。这种由软件提供的资源规约与硬件资源管理之间的紧耦合，给编程易用性、可移植性和性能带来了显著挑战。Zorua 是一个新的资源虚拟化框架，它将 GPU 应用由程序员指定的资源使用量与实际在片上硬件资源中的分配解耦。Zorua 通过对每种资源向程序员透明地虚拟化来实现这一解耦。我们证明，借助受控且协同的虚拟化提供比物理可用资源更多的资源假象，Zorua 带来了若干重要益处：(i) 编程易用性。Zorua 减轻了程序员编写需精细调优以高效利用物理可用片上资源代码的负担。(ii) 可移植性。Zorua 缓解了将应用移植到不同代 GPU 时重新调优其资源使用的必要。(iii) 性能。通过动态分配资源并在必要时谨慎地过量订阅，Zorua 改善或保持了那些已高度调优以最佳利用资源的应用的性能。