只搜一次:面向资源受限嵌入式平台的轻量级可微架构搜索
机器学习
2022-09-01 v1
摘要
得益于搜索效率,可微神经架构搜索(NAS)已发展为自动设计具有竞争力的深度神经网络(DNNs)的最主导替代方案。我们注意到,在真实场景中DNNs必须在严格硬性性能约束下执行,例如自动驾驶车辆上的运行延迟。然而,为获得满足给定性能约束的架构,既往硬件感知可微NAS方法不得不重复大量搜索运行,通过试错手动调节超参数,从而总设计成本成比例增加。为解决此问题,我们引入一个名为LightNAS的轻量级硬件感知可微NAS框架,力求通过一次性搜索(即\underline{\textit{you only search once}})找到满足各种性能约束所需架构。我们进行了大量实验以展示LightNAS相对于既往最先进方法的优越性。
引用
@article{arxiv.2208.14446,
title = {You Only Search Once: On Lightweight Differentiable Architecture Search for Resource-Constrained Embedded Platforms},
author = {Xiangzhong Luo and Di Liu and Hao Kong and Shuo Huai and Hui Chen and Weichen Liu},
journal= {arXiv preprint arXiv:2208.14446},
year = {2022}
}
备注
Accepted by ACM/IEEE Design Automation Conference (DAC) 2022