用于运行时高效图像识别的分辨率可切换网络
计算机视觉与模式识别
2020-11-10 v3
摘要
我们提出一种通用方法，用于训练单个可在推理时切换图像分辨率的卷积神经网络。因此，运行速度可被选择以满足各种计算资源限制。用所提方法训练的网络称为分辨率可切换网络（Resolution Switchable Networks, RS-Nets）。基本训练框架在处理不同分辨率图像时共享网络参数，但保持独立的批归一化层。尽管其在设计上参数高效，却导致不同分辨率下精度变化不一致，我们从训练-测试识别差异的角度对此给出了详细分析。我们进一步设计了多分辨率集成蒸馏，其中教师模型作为分辨率上的加权集成被在线学习。得益于集成与知识蒸馏，与单独训练的模型相比，RS-Nets 在广泛分辨率范围内均获得精度提升。我们提供了在 ImageNet 数据集上的大量实验，并额外考虑了量化问题。代码与模型见 https://github.com/yikaiw/RS-Nets。
引用
@article{arxiv.2007.09558,
title = {Resolution Switchable Networks for Runtime Efficient Image Recognition},
author = {Yikai Wang and Fuchun Sun and Duo Li and Anbang Yao},
journal= {arXiv preprint arXiv:2007.09558},
year = {2020}
}
备注
ECCV 2020. Code and models: https://github.com/yikaiw/RS-Nets