HMCNAS：基于隐马尔可夫链与贝叶斯优化的神经架构搜索
机器学习
2020-08-03 v1 计算机视觉与模式识别
神经与进化计算
机器学习
摘要
神经架构搜索（NAS）已在多种任务中取得最先进性能，超越人工设计的网络。然而，许多需要人工定义的假设，涉及所解决问题或所生成模型：最终模型架构、待采样层数、强制操作、狭小搜索空间，最终以向系统引入偏置为代价换取更高性能。本文提出 HMCNAS，其由两个新颖组件构成：i）一种利用人工设计模型信息自主生成复杂搜索空间的方法；ii）一种结合贝叶斯优化的进化算法，能够从零生成具竞争力的 CNN，无需依赖人工定义参数或狭小搜索空间。实验结果表明，所提方法能在极短时间内得到具竞争力的架构。HMCNAS 通过提供无需任何任务相关人工知识即可创建竞争力模型的方式，向 NAS 的泛化迈进了一步。
引用
@article{arxiv.2007.16149,
title = {HMCNAS: Neural Architecture Search using Hidden Markov Chains and Bayesian Optimization},
author = {Vasco Lopes and Luís A. Alexandre},
journal= {arXiv preprint arXiv:2007.16149},
year = {2020}
}
备注
9 pages, 1 figure, 2 tables, neural architecture search, macro-search