神经网络设计的高效自动化：可微神经架构搜索综述
机器学习
2023-05-02 v2 人工智能
计算机视觉与模式识别
摘要
过去几年中，可微神经架构搜索（DNAS）迅速成为自动化发现深度神经网络架构的主流方法。这一兴起主要归功于 DARTS 的流行，它是最早的主要 DNAS 方法之一。与基于强化学习或进化算法的先前工作相比，DNAS 速度快数个数量级且计算资源消耗更少。在本综述中，我们聚焦于 DNAS 并回顾该领域近期方法。此外，我们提出了一种新颖的基于挑战的分类法来对 DNAS 方法归类。我们也讨论了过去几年中 DNAS 的贡献及其对全局 NAS 领域的影响。最后，我们对 DNAS 领域的未来研究方向给出一些见解。
引用
@article{arxiv.2304.05405,
title = {Efficient Automation of Neural Network Design: A Survey on Differentiable Neural Architecture Search},
author = {Alexandre Heuillet and Ahmad Nasser and Hichem Arioui and Hedi Tabia},
journal= {arXiv preprint arXiv:2304.05405},
year = {2023}
}
备注
Under review at ACM Computing Surveys. 36 pages, 16 figures