用于高效推理的分辨率自适应网络
计算机视觉与模式识别
2020-05-19 v5
摘要
自适应推理是在深度网络中实现精度与计算成本之间动态权衡的有效机制。现有工作主要利用网络深度或宽度上的架构冗余。本文中，我们关注输入样本的空间冗余，并提出一种新颖的分辨率自适应网络（RANet），其灵感源于如下直觉：低分辨率表示足以分类包含具有原型特征的大物体的“简单”输入，而仅某些“困难”样本需要空间细节信息。在 RANet 中，输入图像首先被路由到一个轻量子网络，该子网络高效地提取低分辨率表示，那些具有高预测置信度的样本将提前退出网络而不被进一步处理。同时，网络中的高分辨率路径保持识别“困难”样本的能力。因此，RANet 能有效减少推断高分辨率输入所涉及的空间冗余。经验上，我们在 CIFAR-10、CIFAR-100 和 ImageNet 数据集上，于随时预测设定和预算批量分类设定两种情况下均展示了所提 RANet 的有效性。
引用
@article{arxiv.2003.07326,
title = {Resolution Adaptive Networks for Efficient Inference},
author = {Le Yang and Yizeng Han and Xi Chen and Shiji Song and Jifeng Dai and Gao Huang},
journal= {arXiv preprint arXiv:2003.07326},
year = {2020}
}
备注
CVPR 2020