面向可重构CNN加速器的算法与硬件协同设计
机器学习
2021-11-29 v1 硬件体系结构
系统与控制
系统与控制
摘要
深度神经网络(DNN)的算法-硬件协同设计的最新进展已展示了其在自动设计神经架构和硬件设计方面的潜力。然而,由于昂贵的训练成本和耗时的硬件实现,这仍然是一个具有挑战性的优化问题,使得在神经架构和硬件设计的广阔设计空间中进行探索变得棘手。在本文中,我们证明了我们提出的方法能够定位帕累托前沿上的设计。这一能力由一个新颖的三阶段协同设计框架实现,该框架具有以下新特性:(a)将DNN训练与硬件架构和神经架构的设计空间探索解耦;(b)通过在构建搜索单元时考虑硬件特性,提供一个硬件友好的神经架构空间;(c)采用高斯过程预测准确率、延迟和功耗,以避免耗时的综合与布局布线过程。与手动设计的ResNet101、InceptionV2和MobileNetV2相比,我们在ImageNet数据集上可以实现高达5%的准确率提升,同时速度提升高达3倍。与其他最先进的协同设计框架相比,我们找到的网络和硬件配置可以实现2% ~ 6%的更高准确率、2倍 ~ 26倍的更低延迟以及8.5倍的更高能效。
引用
@article{arxiv.2111.12787,
title = {Algorithm and Hardware Co-design for Reconfigurable CNN Accelerator},
author = {Hongxiang Fan and Martin Ferianc and Zhiqiang Que and He Li and Shuanglong Liu and Xinyu Niu and Wayne Luk},
journal= {arXiv preprint arXiv:2111.12787},
year = {2021}
}