L$^{2}$NAS：通过连续动作强化学习学习优化神经架构
机器学习
2021-09-28 v1 计算机视觉与模式识别
摘要
神经架构搜索（NAS）已在深度神经网络设计中取得显著成果。可微架构搜索将离散架构上的搜索转化为可通过梯度下降解决的超参数优化问题。然而，关于梯度方法求解非凸架构超参数优化问题的有效性和泛化能力已引发质疑。在本文中，我们提出 LNAS，其通过基于搜索历史中高性能架构分布的 actor 神经网络，学习智能地优化和更新架构超参数。我们引入一种分位数驱动的 training 过程，在 actor-critic 框架下通过连续动作强化学习高效训练 LNAS。实验表明，LNAS 在 NAS-Bench-201 基准以及 DARTS 搜索空间和 Once-for-All MobileNetV3 搜索空间上均达到最先进（SOTA）结果。我们还展示了 LNAS 生成的搜索策略具有泛化能力，并且仅需极少微调即可跨不同训练数据集迁移。
引用
@article{arxiv.2109.12425,
title = {L$^{2}$NAS: Learning to Optimize Neural Architectures via Continuous-Action Reinforcement Learning},
author = {Keith G. Mills and Fred X. Han and Mohammad Salameh and Seyed Saeed Changiz Rezaei and Linglong Kong and Wei Lu and Shuo Lian and Shangling Jui and Di Niu},
journal= {arXiv preprint arXiv:2109.12425},
year = {2021}
}
备注
Accepted as a Full Research Paper at CIKM 2021; 10 pages, 3 Figures, 5 Tables