面向像素级分类的卷积神经网络高效前向与反向传播
计算机视觉与模式识别
2014-12-17 v2
摘要
我们提出了用于图像像素级分类的卷积神经网络（CNN）前向和反向传播的高效算法。对于像素级分类任务，如图像分割和目标检测，将周围的图像块输入CNN，通过前向传播预测中心像素的类别，并通过反向传播更新CNN参数。然而，前向和反向传播最初是为整图分类设计的。直接以逐块扫描方式应用于像素级分类效率极低，因为像素的周围块存在大量重叠，导致大量冗余计算。所提出的算法通过引入新颖的d-正则稀疏核，消除了图像上卷积和池化中的所有冗余计算。它生成的结果与逐块扫描完全相同。具有此类核的卷积和池化操作能够连续访问内存，并可在GPU上高效运行。通过将掩码应用于最后一个CNN层的误差图，可以从每张训练图像中选择一小部分感兴趣块用于反向传播。其计算复杂度相对于从图像中采样的块数量是常数。实验表明，我们提出的算法在前向和反向传播中，将常用的逐块扫描速度提高了1500倍以上。加速比随图像和块尺寸的增大而增加。
引用
@article{arxiv.1412.4526,
title = {Highly Efficient Forward and Backward Propagation of Convolutional Neural Networks for Pixelwise Classification},
author = {Hongsheng Li and Rui Zhao and Xiaogang Wang},
journal= {arXiv preprint arXiv:1412.4526},
year = {2014}
}