AOWS:具有延迟约束的自适应最优网络宽度搜索
计算机视觉与模式识别
2020-05-22 v1 机器学习
摘要
神经架构搜索(NAS)方法旨在自动寻找新颖的 CNN 架构,以在维持目标平台上良好性能的同时满足计算约束。我们提出一种新颖高效的一次性 NAS 方法,在给定特定硬件上的延迟约束下最优地搜索通道数。我们首先展示可使用黑盒方法估计特定推理平台的真实延迟模型,而无需对推理计算进行底层访问。然后,我们设计一种成对 MRF 对任意通道配置打分,并使用动态规划高效解码性能最佳的配置,从而给出网络宽度搜索的最优解。最后,我们提出一种自适应通道配置采样方案,使训练阶段逐步专精于目标计算约束。在 ImageNet 分类上的实验表明,我们的方法能找到适配不同目标平台资源约束的网络,同时相比最先进的高效网络提升了准确率。
引用
@article{arxiv.2005.10481,
title = {AOWS: Adaptive and optimal network width search with latency constraints},
author = {Maxim Berman and Leonid Pishchulin and Ning Xu and Matthew B. Blaschko and Gerard Medioni},
journal= {arXiv preprint arXiv:2005.10481},
year = {2020}
}
备注
Accepted to CVPR 2020 (oral)