深度残差网络中的动态可操控模块
计算机视觉与模式识别
2017-07-20 v2 机器学习
摘要
卷积网络中的滤波器通常以像素基进行参数化,并未考虑关于视觉世界的先验知识。我们研究了以图像属性为设计导向的广义框架概念,作为这种参数化方式的替代方案。我们展示了基于框架的ResNet和DenseNet能够持续提升在Cifar-10+上的性能,同时具备如可操控性等额外优良特性。通过显式利用这些变换特性,我们得到了动态可操控模块。它们是残差模块的扩展,能够在训练和推理时根据输入条件,在预定义变换下无缝地变换滤波器。动态可操控模块从数据中学习不变性的程度,并局部自适应滤波器,使其能够对特征图的每个位置应用同一滤波器的不同几何变体。在Berkeley分割轮廓检测数据集上的评估表明,我们的方法优于所有不使用预训练的竞争方法。我们的结果突显了基于图像的规整化对深度网络的益处。
引用
@article{arxiv.1706.00598,
title = {Dynamic Steerable Blocks in Deep Residual Networks},
author = {Jörn-Henrik Jacobsen and Bert de Brabandere and Arnold W. M. Smeulders},
journal= {arXiv preprint arXiv:1706.00598},
year = {2017}
}