卷积网络中的隐式等变
计算机视觉与模式识别
2021-11-30 v1
摘要
卷积神经网络（CNN）在平移下天生具有等变性，然而，它们没有等效的内嵌机制来处理其他变换，如旋转和尺度变化。现有若干方法通过设计使 CNN 在其他变换群下等变。其中，可转向 CNN 尤为有效。但这些方法需要用由涉及复杂解析函数的预定义基组合映射得到的滤波器来重新设计标准网络。我们通过实验证明，这类对基选择上的限制会导致对主要深度学习任务（如分类）次优的模型权重。此外，这种硬嵌入的显式公式使得设计由异构特征组构成的复合网络变得困难。为规避此类问题，我们提出隐式等变网络（IEN），其通过优化一个结合主要损失与等变损失项的多目标损失函数，在标准 CNN 模型的不同层中诱导等变性。通过在 Rot-MNIST、Rot-TinyImageNet、Scale-MNIST 和 STL-10 数据集上对 VGG 和 ResNet 模型的实验，我们表明即便公式简单，IEN 也优于可转向网络。同时，IEN 便于构建异构滤波器组，可在保持与基线相当性能的同时将 CNN 中通道数减少超过 30%。IEN 的有效性在视觉目标跟踪这一难题上得到进一步验证。我们表明 IEN 优于最先进的旋转等变跟踪方法，同时提供更快的推理速度。
引用
@article{arxiv.2111.14157,
title = {Implicit Equivariance in Convolutional Networks},
author = {Naman Khetan and Tushar Arora and Samee Ur Rehman and Deepak K. Gupta},
journal= {arXiv preprint arXiv:2111.14157},
year = {2021}
}