ILP-M Conv：面向移动端 GPU 单图卷积神经网络推理的卷积算法优化
分布式、并行与集群计算
2019-10-04 v2 计算机视觉与模式识别
性能
摘要
卷积神经网络广泛应用于移动端应用。然而，现有 GPU 卷积算法多为小批量神经网络训练而设计，针对移动端 GPU 上单图卷积神经网络推理算法的研究尚不充分。在讨论使用差异并考察现有卷积算法后，我们提出了 HNTMP 卷积算法。据我们所知，HNTMP 卷积算法相比最流行的 im2col 卷积算法实现了 14.6 倍的加速，相比最快的现有卷积算法（直接卷积）实现了 2.30 倍的加速。
引用
@article{arxiv.1909.02765,
title = {ILP-M Conv: Optimize Convolution Algorithm for Single-Image Convolution Neural Network Inference on Mobile GPUs},
author = {Zhuoran Ji},
journal= {arXiv preprint arXiv:1909.02765},
year = {2019}
}