URNet：带条件门控模块的用户可调尺寸残差网络
计算机视觉与模式识别
2019-04-15 v2
摘要
卷积神经网络被广泛用于处理空间场景，但其计算代价是固定的，并依赖于所用网络的结构。已有方法通过压缩网络或依据输入图像动态改变其计算路径来降低代价。然而，由于用户无法控制所学模型的尺寸，若服务请求量突增则难以动态响应。我们提出用户可调尺寸残差网络（URNet），允许用户在评估时按需调整网络规模。URNet 包含条件门控模块（CGM），其依据输入图像与期望规模决定各残差块的使用。CGM 以监督方式利用新提出的规模损失及其相应训练方法进行训练。URNet 可根据用户需求控制计算量，且不会显著降低精度。它也可通过在训练中固定规模尺寸而用作通用压缩方法。在 ImageNet 上的实验中，基于 ResNet-101 的 URNet 即便调整至约原始网络的 80% 仍保持基线精度，并在使用约 65% 计算量时仅表现出约 1% 的精度下降。
引用
@article{arxiv.1901.04687,
title = {URNet : User-Resizable Residual Networks with Conditional Gating Module},
author = {Sang-ho Lee and Simyung Chang and Nojun Kwak},
journal= {arXiv preprint arXiv:1901.04687},
year = {2019}
}
备注
12 pages