利用嵌套Winograd变换加速大核卷积
计算机视觉与模式识别
2024-01-02 v2 人工智能
摘要
近期文献表明,在许多计算机视觉任务(如目标检测和图像复原)中,具有大核的卷积神经网络(CNNs)优于视觉Transformer(ViTs)和具有堆叠小核的CNNs。Winograd变换有助于减少卷积中重复乘法的次数,并被许多商用AI处理器广泛支持。研究者提出通过将大核卷积线性分解为许多小核卷积,然后依次用Winograd算法加速每个小核卷积来加速大核卷积。本工作提出一种嵌套Winograd算法,迭代地将大核卷积分解为小核卷积,并证明其比线性分解Winograd变换算法更有效。实验表明,与线性分解Winograd算法相比,所提算法在计算4x4到31x31卷积时,将乘法总次数减少了1.4到10.5倍。
引用
@article{arxiv.2102.13272,
title = {Accelerating Large Kernel Convolutions with Nested Winograd Transformation.pdf},
author = {Jingbo Jiang and Xizi Chen and Chi-Ying Tsui},
journal= {arXiv preprint arXiv:2102.13272},
year = {2024}
}
备注
published ref to https://ieeexplore.ieee.org/document/10321932