TI-POOLING:卷积神经网络中用于特征学习的变换不变池化
计算机视觉与模式识别
2016-09-23 v2
摘要
本文提出一种深度神经网络拓扑结构,其集成了一个易于实现的变换不变池化算子(TI-POOLING)。该算子能够有效处理数据中诸如旋转或尺度变化等干扰变化的先验知识。当前大多数方法通常利用数据集增强来解决此问题,但这需要更多的模型参数和训练数据,并导致训练时间显著增加以及欠拟合或过拟合风险增大。这些缺陷的主要原因在于,所学模型需要为输入的所有可能变换捕捉充分特征。另一方面,我们将卷积神经网络中的特征表述为变换不变的。我们通过为所考虑的变换集使用并行孪生架构,并在全连接层之前对其输出应用 TI-POOLING 算子来实现这一点。我们表明,该拓扑结构在内部为训练找到输入图像的最优“规范”实例,从而限制了所学特征中的冗余。与带有数据集增强的标准卷积神经网络及其他基线相比,这种对训练数据更高效的利用以更少的参数在流行基准数据集上取得了更好的性能。
引用
@article{arxiv.1604.06318,
title = {TI-POOLING: transformation-invariant pooling for feature learning in Convolutional Neural Networks},
author = {Dmitry Laptev and Nikolay Savinov and Joachim M. Buhmann and Marc Pollefeys},
journal= {arXiv preprint arXiv:1604.06318},
year = {2016}
}
备注
Accepted at CVPR 2016. The first two authors assert equal contribution and joint first authorship