一种神经架构的半监督评估器
计算机视觉与模式识别
2020-10-16 v1 机器学习
摘要
神经架构搜索（NAS）旨在自动设计出具有满意性能的深层神经网络。其中，架构性能预测器对于高效评估中间神经架构至关重要。但训练该预测器往往需收集大量神经架构及其对应的真实性能。与以全监督方式优化的经典性能预测器不同，本文提出一种神经架构的半监督评估器。我们采用自编码器来发现神经架构的有意义表示。将搜索空间中每个神经架构视为独立实例，我们构建图以捕捉其内在相似性，其中同时涉及有标签与无标签架构。引入图卷积神经网络，基于学习到的表示及由图建模的关系来预测架构性能。在 NAS-Benchmark-101 数据集上的大量实验结果表明，我们的方法能显著减少寻找高效架构所需的全训练架构数量。
引用
@article{arxiv.2005.06821,
title = {A Semi-Supervised Assessor of Neural Architectures},
author = {Yehui Tang and Yunhe Wang and Yixing Xu and Hanting Chen and Chunjing Xu and Boxin Shi and Chao Xu and Qi Tian and Chang Xu},
journal= {arXiv preprint arXiv:2005.06821},
year = {2020}
}