Voyager:面向DNN加速器设计空间探索与生成的端到端框架
硬件体系结构
2025-09-19 v1
摘要
虽然深度神经网络(DNN)在从计算机视觉到自然语言处理等领域取得了最先进的性能,但高效运行这些计算密集型模型需要硬件加速器。然而,设计这些加速器是一个耗时、劳动密集的过程,且可扩展性不佳。尽管先前已有工作致力于自动化DNN加速器生成,但它们提供的参数化程度有限,无法生成高性能、可流片的设计,对数据类型和量化方案的支持有限,并且缺乏集成的端到端软件编译器。本工作提出了Voyager,一个基于高级综合(HLS)的框架,用于DNN加速器的设计空间探索(DSE)与生成。Voyager通过提供跨技术节点、时钟频率和尺度的广泛可配置性,克服了先前工作的局限性,其可定制参数包括处理单元数量、片上缓冲区大小和外部内存带宽等。Voyager相较于先前工作支持更广泛的数据类型和量化方案,包括内置的浮点、posit和整数格式,以及用户自定义格式(含每张量缩放和微量化)。Voyager基于PyTorch的编译器能够高效地将网络端到端映射到生成的硬件上,支持量化、融合和分块。我们在最先进的视觉和语言模型上评估了Voyager。Voyager支持对数据类型和量化方案的快速DSE及全数据集精度评估。生成的设计在模型和尺度上实现了高利用率,最高达99.8%,相较于先前的生成器延迟降低高达61%,面积降低高达56%。与手工优化的加速器相比,Voyager实现了可比的性能,同时提供了更大的设计和工作负载映射自动化程度。
引用
@article{arxiv.2509.15205,
title = {Voyager: An End-to-End Framework for Design-Space Exploration and Generation of DNN Accelerators},
author = {Kartik Prabhu and Jeffrey Yu and Xinyuan Allen Pan and Zhouhua Xie and Abigail Aleshire and Zihan Chen and Ammar Ali Ratnani and Priyanka Raina},
journal= {arXiv preprint arXiv:2509.15205},
year = {2025}
}