POPNASv3:一种面向图像与时间序列分类的帕累托最优神经架构搜索方案
机器学习
2022-12-14 v1 人工智能
计算机视觉与模式识别
神经与进化计算
摘要
自动化机器学习(AutoML)领域近年来变得愈发重要。这些算法无需专家知识即可开发模型,促进了机器学习技术在工业中的应用。神经架构搜索(NAS)利用深度学习技术自主生成神经网络架构,其结果可与 AI 专家手工设计的顶尖模型相媲美。然而,该方法需要大量计算资源和硬件投入,使其在真实应用场景中吸引力不足。本文提出帕累托最优渐进神经架构搜索的第三版(POPNASv3),一种基于序贯模型优化、面向不同硬件环境与多种分类任务的新型 NAS 算法。我们的方法能够在大型搜索空间中找到具有竞争力的架构,同时保持灵活的结构与数据处理流水线以适应不同任务。该算法利用帕累托最优性减少搜索过程中采样的架构数量,在精度不损失的情况下大幅提升了时间效率。在图像与时间序列分类数据集上的实验表明,POPNASv3 能够探索大量各异的算子,并在不同场景下针对所提供的数据类型收敛到最优架构。
引用
@article{arxiv.2212.06735,
title = {POPNASv3: a Pareto-Optimal Neural Architecture Search Solution for Image and Time Series Classification},
author = {Andrea Falanti and Eugenio Lomurno and Danilo Ardagna and Matteo Matteucci},
journal= {arXiv preprint arXiv:2212.06735},
year = {2022}
}