Bifrost：可重构 DNN 加速器的端到端评估与优化
机器学习
2022-04-27 v1 硬件体系结构
分布式、并行与集群计算
性能
摘要
针对深度神经网络（DNNs）的可重构加速器有望提高推理延迟等性能。STONNE 是首个针对可重构 DNN 推理加速器的周期精确模拟器，它允许探索加速器设计和配置空间。然而，在 STONNE 中准备评估模型和探索配置空间是一个手动且耗时长的过程，这构成了研究的障碍。本文介绍了 Bifrost，一个用于可重构 DNN 推理加速器评估与优化的端到端框架。Bifrost 作为 STONNE 的前端运行，并利用 TVM 深度学习编译器栈来解析模型并自动卸载加速计算。我们讨论了 Bifrost 相对于 STONNE 及其他工具的优势，并使用 Bifrost 评估了 MAERI 和 SIGMA 架构。此外，Bifrost 引入了一个利用 AutoTVM 的模块，以高效探索加速器设计和数据流映射空间，从而优化性能。通过调优 MAERI 架构并为 AlexNet 生成高效的数据流映射，我们证明了这一点，在卷积层获得了平均 的加速，在全连接层获得了平均 的加速。我们的代码可在 www.github.com/gicLAB/bifrost 获取。
引用
@article{arxiv.2204.12418,
title = {Bifrost: End-to-End Evaluation and Optimization of Reconfigurable DNN Accelerators},
author = {Axel Stjerngren and Perry Gibson and José Cano},
journal= {arXiv preprint arXiv:2204.12418},
year = {2022}
}
备注
This paper is accepted to ISPASS 2022