AIO-P：将神经性能预测器拓展至图像分类之外
计算机视觉与模式识别
2023-07-06 v2 机器学习
摘要
评估神经网络性能对深度神经网络设计至关重要，但却是一个代价高昂的过程。神经预测器通过将架构视为样本并学习估计其在给定任务上的性能，提供了一种高效的解决方案。然而，现有预测器依赖于任务，主要估计神经网络在图像分类基准上的性能。它们还依赖于搜索空间；每个预测器被设计用于具有预定义拓扑和操作集的特定架构搜索空间进行预测。在本文中，我们提出了一种新颖的全能预测器（All-in-One Predictor, AIO-P），旨在从多个独立的计算机视觉（CV）任务域和多个架构空间中对神经预测器进行预训练，然后迁移到未见的下游 CV 任务或神经架构。我们描述了所提出的通用图表示、高效预测器预训练和知识注入技术，以及迁移到下游任务/空间的方法。大量实验结果表明，AIO-P 在广泛的下游 CV 目标任务上，无论是否微调，均可分别实现低于 1% 的平均绝对误差（Mean Absolute Error, MAE）和高于 0.5 的斯皮尔曼秩相关系数（Spearman's Rank Correlation, SRCC），优于多个基线。此外，AIO-P 可直接迁移到训练期间未见过的新架构，准确对其进行排序，并在与旨在保持性能同时降低 FLOPs 的算法配对时作为有效的性能估计器。
引用
@article{arxiv.2211.17228,
title = {AIO-P: Expanding Neural Performance Predictors Beyond Image Classification},
author = {Keith G. Mills and Di Niu and Mohammad Salameh and Weichen Qiu and Fred X. Han and Puyuan Liu and Jialin Zhang and Wei Lu and Shangling Jui},
journal= {arXiv preprint arXiv:2211.17228},
year = {2023}
}
备注
AAAI 2023 Oral Presentation; version includes supplementary material; 16 Pages, 4 Figures, 22 Tables