基于性能预测的高效神经架构搜索
机器学习
2021-08-05 v1
摘要
神经网络是强大的模型，具有提取人类或其他机器学习模型难以察觉的复杂模式的卓越能力。神经网络是第一类能够训练具有大学习容量的端到端系统的模型。然而，我们仍面临设计神经网络的艰巨挑战，这需要人类经验以及漫长的试错过程。作为解决方案，我们可以使用神经架构搜索来为手头任务找到最佳网络架构。现有的 NAS 算法通常通过从头完全训练来评估新架构的适应度，即使在高性能计算机上运行，也会导致高昂的计算成本。本文提出一种端到端的离线性能预测器，以加速对采样架构的评估。索引词——学习曲线预测，神经架构搜索，强化学习。
引用
@article{arxiv.2108.01854,
title = {Efficient Neural Architecture Search with Performance Prediction},
author = {Ibrahim Alshubaily},
journal= {arXiv preprint arXiv:2108.01854},
year = {2021}
}