爬山域中神经架构搜索的新框架
机器学习
2021-02-26 v1
摘要
神经网络长期以来一直被用于解决图像领域的复杂问题,然而设计网络需要人工专业知识。此外,自动为给定数据集生成合适深度学习架构的技术频繁使用强化学习和进化方法,这些方法耗费大量计算资源和时间。我们提出了一种基于爬山过程并使用态射算子的神经架构搜索新框架,该框架利用一种新颖的梯度更新方案。该更新基于神经网络层的老化,并减少了总体训练时间。该技术在更广阔的搜索空间中搜索,从而产生有竞争力的结果。我们在 CIFAR-10 数据集上以单 GPU 训练 19.4 小时实现了 4.96% 的错误率。
引用
@article{arxiv.2102.12985,
title = {A Novel Framework for Neural Architecture Search in the Hill Climbing Domain},
author = {Mudit Verma and Pradyumna Sinha and Karan Goyal and Apoorva Verma and Seba Susan},
journal= {arXiv preprint arXiv:2102.12985},
year = {2021}
}
备注
8 pages, 6 figures