基于图搜索空间的神经架构搜索
机器学习
2019-08-01 v2 机器学习
摘要
神经架构搜索(NAS)已在诸多领域实现了最先进架构的发现。然而,NAS的成功依赖于搜索空间的定义。当前的搜索空间被定义为静态的决策序列以及每个决策可用动作的集合。每一个可能的动作序列定义一种架构。我们提出了一类更具表达力的搜索空间:有向图。在我们的形式化中,每个决策是一个顶点,每个动作是一条边。这使我们能够建模迭代与分支的架构设计决策。我们在仿真和图像分类实验中展示了基本的迭代与分支搜索结构,并表明图表示提升了采样效率。
引用
@article{arxiv.1812.10666,
title = {Neural Architecture Search Over a Graph Search Space},
author = {Stanisław Jastrzębski and Quentin de Laroussilhe and Mingxing Tan and Xiao Ma and Neil Houlsby and Andrea Gesmundo},
journal= {arXiv preprint arXiv:1812.10666},
year = {2019}
}