DWM：一种用于卷积加速的可分解Winograd方法
机器学习
2020-02-06 v1 计算机视觉与模式识别
图像与视频处理
摘要
Winograd极小滤波算法已被广泛用于卷积神经网络(CNNs)中以减少乘法次数从而实现更快处理。然而，它仅对核大小为3x3且步长为1的卷积有效，因为对于大于3x3的核尺寸它会遭受FLOPs显著增加和数值精度问题，且在步长大于1的卷积上失效。本文中，我们提出一种新颖的可分解Winograd方法(DWM)，它突破了原始Winograd极小滤波算法在广泛通用卷积上的限制。DWM将大尺寸或大步长的核分解为若干步长为1的小核，以进一步应用Winograd方法，从而DWM能在保持数值精度的同时减少乘法次数。它使得在CNNs中快速探索更大核尺寸和更大步长值以获得高性能和精度，甚至具备新CNNs的潜力。与原始Winograd相比，所提DWM能够支持各类卷积，并实现约2倍的加速，且不影响数值精度。
引用
@article{arxiv.2002.00552,
title = {DWM: A Decomposable Winograd Method for Convolution Acceleration},
author = {Di Huang and Xishan Zhang and Rui Zhang and Tian Zhi and Deyuan He and Jiaming Guo and Chang Liu and Qi Guo and Zidong Du and Shaoli Liu and Tianshi Chen and Yunji Chen},
journal= {arXiv preprint arXiv:2002.00552},
year = {2020}
}
备注
Accepted by AAAI 2020