任意宽度网络
计算机视觉与模式识别
2020-12-08 v1 机器学习
摘要
尽管卷积神经网络(CNN)在速度与精度上取得了显著改进，其在推理时仍通常作为整体实体运行。这对资源受限的实际应用构成了挑战，因为计算预算与性能需求会随情境变化。为应对这些约束，我们提出了任意宽度网络(AWN)，一种可调宽度的CNN架构及相应的训练流程，可在推理时对速度与精度进行细粒度控制。我们的关键创新是使用下三角权重矩阵，其显式地处理了宽度变化的批统计量，并且天然适用于多宽度操作。我们还展示了该设计有助于基于随机宽度采样的高效训练流程。我们通过实验证明，所提出的AWN在提供最大粒度推理控制的同时，优于现有方法。
引用
@article{arxiv.2012.03153,
title = {Any-Width Networks},
author = {Thanh Vu and Marc Eder and True Price and Jan-Michael Frahm},
journal= {arXiv preprint arXiv:2012.03153},
year = {2020}
}
备注
8 pages. Published at CVPR 2020 Workshop on Efficient Deep Learning in Computer Vision. Code at https://github.com/thanhmvu/awn