HQNAS：面向联合量化与架构搜索的自动CNN部署框架
机器学习
2022-10-18 v1 人工智能
摘要
随着嵌入式计算系统的快速发展，深度学习应用正从云端转向边缘。为在有限资源预算下实现更高能效，神经网络(NNs)必须经过两步精心设计：架构设计与量化策略选择。在将神经网络部署到嵌入式设备时，神经架构搜索(NAS)与量化已分别被提出。然而，将两步独立进行耗时且导致次优的最终部署。为此，我们提出一种称为硬件感知量化神经架构搜索(HQNAS)框架的新型神经网络设计框架，其通过权值共享与比特共享将NAS与量化以高效方式结合。在CIFAR10上发现出色神经网络策略仅需4个GPU小时。相较于传统NAS方法，在ImageNet上生成可比模型仅耗费10%的GPU时间，延迟降低1.8倍且精度损失可忽略仅0.7%。此外，我们的方法可适应终身场景，即因本地数据、环境与用户偏好变化而需偶尔演进神经网络的情形。
引用
@article{arxiv.2210.08485,
title = {HQNAS: Auto CNN deployment framework for joint quantization and architecture search},
author = {Hongjiang Chen and Yang Wang and Leibo Liu and Shaojun Wei and Shouyi Yin},
journal= {arXiv preprint arXiv:2210.08485},
year = {2022}
}