HSCoNAS：基于神经架构搜索的高效DNN软硬件协同设计
机器学习
2021-03-16 v1
摘要
本文提出一种新颖的多目标硬件感知神经架构搜索（NAS）框架，即HSCoNAS，以自动化设计在目标硬件上兼具高精度与低延迟的深度神经网络（DNN）。为实现此目标，我们首先提出一种有效的硬件性能建模方法，以近似DNN在目标硬件上的运行延迟，该方法将集成至HSCoNAS中以避免繁琐的设备端测量。此外，我们提出两种新技术，即动态通道缩放（在指定延迟下最大化精度）与渐进式空间收缩（将搜索空间细化至目标硬件并减轻搜索开销）。这两种技术协同工作，使HSCoNAS能够进行细粒度且高效的探索。最后，引入进化算法（EA）进行架构搜索。在ImageNet上针对多样目标硬件（即GPU、CPU与边缘设备）开展了大量实验，以证明HSCoNAS优于近期最先进方法。
引用
@article{arxiv.2103.08325,
title = {HSCoNAS: Hardware-Software Co-Design of Efficient DNNs via Neural Architecture Search},
author = {Xiangzhong Luo and Di Liu and Shuo Huai and Weichen Liu},
journal= {arXiv preprint arXiv:2103.08325},
year = {2021}
}
备注
DATE2021