基于结构与操作采样的有效解耦神经架构搜索
机器学习
2020-04-28 v1 计算机视觉与模式识别
机器学习
摘要
我们提出了一种通过解耦结构与操作搜索过程、基于强化学习的新型神经架构搜索算法。我们的方法从定义于两个独立搜索空间上的策略向量的多项分布中采样候选模型。与基于带 RNN 控制器的强化学习的传统方法相比，所提技术显著提升了架构搜索过程的效率，同时在目标任务中取得了具有竞争力的准确率和模型规模。我们的策略向量在整个训练过程中易于解释，从而可以分析搜索进展与所发现的架构；而 RNN 控制器的黑盒特性阻碍了从策略参数更新角度理解训练进展。我们的实验以极小的一部分搜索成本展示了优于最先进方法的出色性能。
引用
@article{arxiv.1910.10397,
title = {Efficient Decoupled Neural Architecture Search by Structure and Operation Sampling},
author = {Heung-Chang Lee and Do-Guk Kim and Bohyung Han},
journal= {arXiv preprint arXiv:1910.10397},
year = {2020}
}