简洁高效的卷积神经网络结构搜索
机器学习
2017-11-15 v1 人工智能
机器学习
摘要
神经网络近来在许多任务上取得了很大成功。然而，性能良好的神经网络结构通常仍由专家以繁琐的试错过程手动设计。我们提出了一种基于简单爬山过程自动搜索高性能CNN结构的新方法，其算子应用网络态射(network morphism)，随后通过余弦退火进行短时优化。令人惊讶的是，这一简单方法取得了有竞争力的结果，尽管其所需资源仅与训练单个网络处于同一数量级。例如，在CIFAR-10上，我们的方法在单个GPU上仅用12小时便设计并训练出错误率低于6%的网络；训练一天可将该错误率进一步降低至接近5%。
引用
@article{arxiv.1711.04528,
title = {Simple And Efficient Architecture Search for Convolutional Neural Networks},
author = {Thomas Elsken and Jan-Hendrik Metzen and Frank Hutter},
journal= {arXiv preprint arXiv:1711.04528},
year = {2017}
}
备注
Under review as a conference paper at ICLR 2018