面向FPGA上生成对抗网络加速的高效快速算法设计方法
分布式、并行与集群计算
2019-11-19 v1 神经与进化计算
摘要
生成对抗网络(GANs)在图像与语音应用中展现出优异性能。GANs主要通过一种称为反卷积(DeConv)或转置卷积(Conv)的新型算子来生成令人印象深刻的数据。为了在硬件中实现DeConv层,最先进的加速器通过DeConv-to-Conv转换降低高计算复杂度并达到相同结果。然而,该转换存在一个问题,即滤波器数量因此增加。近来,Winograd最小滤波已被认为是改善Conv层的算术复杂度和资源效率的有效方案。本文中,我们在FPGA上提出一种结合这两种正交方法的高效Winograd DeConv加速器。首先,我们利用Winograd最小滤波为DeConv层引入一类新的快速算法。由于Winograd滤波器中存在规则的稀疏模式,我们通过跳过零权重进一步分摊计算复杂度。其次,我们提出一种新的数据流,通过重组Winograd域中的滤波器布局来防止资源利用不足。最后,我们通过设计行缓冲器并探索设计空间,提出了一种实现Winograd DeConv的高效架构。在各种GANs上的实验结果表明,我们的加速器相较最先进的DeConv加速器实现了高达1.78x~8.38x的加速。
引用
@article{arxiv.1911.06918,
title = {Towards Design Methodology of Efficient Fast Algorithms for Accelerating Generative Adversarial Networks on FPGAs},
author = {Jung-Woo Chang and Saehyun Ahn and Keon-Woo Kang and Suk-Ju Kang},
journal= {arXiv preprint arXiv:1911.06918},
year = {2019}
}
备注
Proceedings of the 25th Asia and South Pacific Design Automation Conference (ASP-DAC), 2020