ConvNets如何建模非线性变换
计算机视觉与模式识别
2017-02-27 v1 机器学习
摘要
本文从理论上探讨了深度卷积网络关于不变性、深度和层次结构的三个基本问题。我们引入了变换网络范式,它是卷积网络的直接推广。在理论上,我们证明了TN(进而ConvNets)尽管仅对局部平移进行池化,但仍能对输入的非线性变换保持不变。我们的分析清晰地揭示了这些网络中不变性随深度增加而增强的原理。更深的网络能够建模更为丰富的变换类别。我们还发现,与非层次化网络相比,层次化架构允许网络更高效地生成不变性。我们的结果为使用ConvNets的深度学习中的这三个基本问题提供了有用的见解。
引用
@article{arxiv.1702.07664,
title = {How ConvNets model Non-linear Transformations},
author = {Dipan K. Pal and Marios Savvides},
journal= {arXiv preprint arXiv:1702.07664},
year = {2017}
}