中文

基于工作优先原则的 NUMA 感知可证明高效任务并行平台

分布式、并行与集群计算 2019-01-08 v4 性能

摘要

任务并行旨在简化并行编程的工作。在现代 NUMA 架构上执行任务并行程序时,由于所谓的工作膨胀现象,它可能无法扩展;工作膨胀是指多个核心在处理有用工作上花费的总处理时间高于在单核上完成相同工作量所需的时间,其源于仅在并行执行中出现的额外缓存缺失、远程内存访问和内存带宽问题等效应。通过将计算与数据共置可以缓解工作膨胀,但对于任务并行程序而言这并非易事。首先,按设计,任务并行程序的调度是自动化的,用户几乎无法控制计算在何处执行。其次,这些平台往往采用工作窃取,其提供强有力的理论保证,但其用于负载均衡的随机化协议无法区分较远与较近的工作项。在本工作中,我们提出 NUMA-WS,一个基于工作优先原则的 NUMA 感知任务并行平台工程。通过遵循工作优先原则,我们获得了一个工作高效、提供与经典工作窃取调度器相同理论保证并能缓解工作膨胀的平台。此外,我们通过修改英特尔 Cilk Plus 运行时系统实现了原型平台,并从经验上证明所得系统工作高效且可扩展。

关键词

引用

@article{arxiv.1806.11128,
  title  = {A NUMA-Aware Provably-Efficient Task-Parallel Platform Based on the Work-First Principle},
  author = {Justin Deters and Jiaye Wu and Yifan Xu and I-Ting Angelina Lee},
  journal= {arXiv preprint arXiv:1806.11128},
  year   = {2019}
}

备注

14 pages, 9 figures