神经架构搜索：来自 1000 篇论文的洞见
机器学习
2023-01-26 v2 人工智能
机器学习
摘要
在过去的十年中，深度学习的进展带来了包括计算机视觉、自然语言理解、语音识别和强化学习在内的多个领域的突破。专门化、高性能的神经架构是深度学习在这些领域取得成功的关键。神经架构搜索（NAS）是为给定任务自动设计神经架构的过程，是自动化机器学习的必然下一步，并且已经在许多任务上超越了最佳人工设计的架构。在过去几年中，NAS 的研究迅速发展，自 2020 年以来已发布超过 1000 篇论文（Deng and Lindauer, 2021）。在本综述中，我们提供了一份有条理且全面的神经架构搜索指南。我们给出了搜索空间、算法和加速技术的分类，并讨论了基准、最佳实践、其他综述和开源库等资源。
引用
@article{arxiv.2301.08727,
title = {Neural Architecture Search: Insights from 1000 Papers},
author = {Colin White and Mahmoud Safari and Rhea Sukthanker and Binxin Ru and Thomas Elsken and Arber Zela and Debadeepta Dey and Frank Hutter},
journal= {arXiv preprint arXiv:2301.08727},
year = {2023}
}