具有自适应推理图的卷积网络
计算机视觉与模式识别
2020-05-12 v3 机器学习
摘要
卷积网络真的需要固定的前馈结构吗？如果网络在识别出图像的高层概念后，能够直接跳到可以区分细粒度差异的层，会怎样？当前，网络首先需要执行有时数百个专门处理不相关方面的中间层。理想情况下，网络对图像了解得越多，就越应善于决定下一步计算哪一层。在这项工作中，我们提出具有自适应推理图的卷积网络（ConvNet-AIG），其根据输入图像自适应地定义自身网络拓扑。遵循类似于残差网络（ResNets）的高层结构，ConvNet-AIG 针对每个输入图像即时决定需要哪些层。在 ImageNet 上的实验表明，ConvNet-AIG 为不同类别学习到不同的推理图。50 层和 101 层的 ConvNet-AIG 均优于对应的 ResNet，同时分别减少 20% 和 38% 的计算量。通过将参数分组到相关类别的层中并仅执行相关层，ConvNet-AIG 同时提升了效率与整体分类质量。最后，我们还研究了自适应推理图对对抗样本敏感性的影响。我们观察到 ConvNet-AIG 表现出比 ResNets 更高的鲁棒性，补充了其他已知的防御机制。
引用
@article{arxiv.1711.11503,
title = {Convolutional Networks with Adaptive Inference Graphs},
author = {Andreas Veit and Serge Belongie},
journal= {arXiv preprint arXiv:1711.11503},
year = {2020}
}
备注
IJCV 2019