中文

面向不规则应用的细粒度可编程事件驱动的可扩展性能加速器 UpDown

人工智能 2025-10-14 v5

摘要

具有不规则数据结构、数据依赖控制流和细粒度数据传输的应用(例如真实世界图计算)在基于缓存系统上性能表现不佳。我们提出了 UpDown 加速器,它通过新颖的架构机制支持细粒度执行——轻量级线程、事件驱动调度、高效超短线程,以及带软件控制同步的分裂事务 DRAM 访问。这些硬件原语支持软件可编程事件,从而在各种数据结构和应用上实现高性能。UpDown 还支持可扩展性能;硬件复制使程序能够扩展性能。评估结果表明,UpDown 的灵活性和可扩展性使其在图挖掘和分析计算上比 CPU 快高达 116-195 倍(几何平均加速比),并且比之前的加速器快 4 倍以上。我们表明,UpDown 为内存密集型图计算生成了高内存并行度(约为 CPU 的 4.6 倍)。我们提供的测量结果将 UpDown 的性能(23 倍架构优势)归因于其各个架构机制。最后,我们还分析了 UpDown 机制为实现软件可编程性所付出的面积和功耗成本。

关键词

引用

@article{arxiv.2407.20761,
  title  = {OmniBal: Towards Fast Instruction-Tuning for Vision-Language Models via Omniverse Computation Balance},
  author = {Yongqiang Yao and Jingru Tan and Feizhao Zhang and Jiahao Hu and Yazhe Niu and Xin Jin and Bo Li and Pengfei Liu and Ruihao Gong and Dahua Lin and Ningyi Xu},
  journal= {arXiv preprint arXiv:2407.20761},
  year   = {2025}
}

备注

Accepted in ICML 2025