BOMP-NAS:贝叶斯优化混合精度神经架构搜索
机器学习
2023-01-30 v1 计算机视觉与模式识别
摘要
贝叶斯优化混合精度神经架构搜索(BOMP-NAS)是一种量化感知神经架构搜索(QA-NAS)方法,它利用贝叶斯优化(BO)与混合精度量化(MP)来高效搜索紧凑且高性能的深度神经网络。结果表明,将量化感知微调(QAFT)整合进 NAS 循环是找到在低精度量化下表现良好的网络的必要步骤:整合它可在 CIFAR-10 数据集上使模型尺寸缩减近 50%。BOMP-NAS 能够以低得多的设计成本找到达到最先进性能的神经网络。本研究表明,与最接近的相关工作相比,BOMP-NAS 能以 6 倍的更短搜索时间找到这些神经网络。
引用
@article{arxiv.2301.11810,
title = {BOMP-NAS: Bayesian Optimization Mixed Precision NAS},
author = {David van Son and Floran de Putter and Sebastian Vogel and Henk Corporaal},
journal= {arXiv preprint arXiv:2301.11810},
year = {2023}
}