DARTS：可微架构搜索
机器学习
2019-04-24 v2 计算与语言
计算机视觉与模式识别
机器学习
摘要
本文通过以可微方式表述任务来解决架构搜索的可扩展性问题。与在离散且不可微的搜索空间上应用进化或强化学习的传统方法不同，我们的方法基于架构表示的连续松弛，允许使用梯度下降高效搜索架构。在 CIFAR-10、ImageNet、Penn Treebank 和 WikiText-2 上的大量实验表明，我们的算法在发现用于图像分类的高性能卷积架构和用于语言建模的循环架构方面表现出色，同时比最先进的非可微技术快几个数量级。我们的实现已公开，以促进对高效架构搜索算法的进一步研究。
引用
@article{arxiv.1806.09055,
title = {DARTS: Differentiable Architecture Search},
author = {Hanxiao Liu and Karen Simonyan and Yiming Yang},
journal= {arXiv preprint arXiv:1806.09055},
year = {2019}
}
备注
Published at ICLR 2019; Code and pretrained models available at https://github.com/quark0/darts