基于指令的异构处理单元协调架构用于 DNN 推理加速
硬件体系结构
2026-01-06 v1
摘要
本文提出了一种基于指令的协调架构，用于 Field-Programmable Gate Array (FPGA) 基于系统，其包含多个高性能处理单元 (PU) 以加速深度神经网络 (DNN) 推理。该架构通过与对等指令同步单元耦合的指令控制单元实现可编程的多 PU 同步，利用组织为加载、计算和存储功能组的指令类型。我们提出了编译框架，将 DNN 模型转换为可执行指令程序，实现 DNN 模型在可用 PU 之间进行灵活的拓扑连续子图划分。支持多种部署策略，实现 PU 之间的流水线并行以及不同 PU 子集之间的批处理并行，无需进行 FPGA 重新配置即可进行运行时切换。该方法支持设计空间探索，实现在单批次和多批次性能之间的动态权衡。在 ResNet-50 上的实验结果显示，在不同配置下，计算效率最高可达 ，吞吐量效率提升最高可达 ，超越先前的工作。
引用
@article{arxiv.2511.15505,
title = {Instruction-Based Coordination of Heterogeneous Processing Units for Acceleration of DNN Inference},
author = {Anastasios Petropoulos and Theodore Antonakopoulos},
journal= {arXiv preprint arXiv:2511.15505},
year = {2026}
}
备注
Accepted at the 18th IEEE International Symposium on Embedded Multicore/Many-core Systems-on-Chip (MCSoC-2025)