标签对于神经架构搜索是否必要？
计算机视觉与模式识别
2020-08-04 v2 机器学习
摘要
计算机视觉中现有的神经网络架构——无论由人类还是机器设计——通常都是同时使用图像及其关联标签发现的。在本文中，我们提出一个问题：我们能否仅使用图像而无需人工标注的标签，就找到高质量的神经架构？为回答该问题，我们首先定义了一种称为无监督神经架构搜索（UnNAS）的新设定。随后我们进行了两组实验。在基于样本实验中，我们用有监督或无监督目标训练了大量（500）多样化架构，发现有无标签所产生的架构排序高度相关。在基于搜索实验中，我们使用各种无监督目标运行一个成熟的 NAS 算法（DARTS），并报告无标签搜索得到的架构可与其有标签搜索的对应架构相竞争。总之，这些结果揭示了一个可能令人惊讶的发现：标签并非必要，仅图像统计本身可能足以识别良好的神经架构。
引用
@article{arxiv.2003.12056,
title = {Are Labels Necessary for Neural Architecture Search?},
author = {Chenxi Liu and Piotr Dollár and Kaiming He and Ross Girshick and Alan Yuille and Saining Xie},
journal= {arXiv preprint arXiv:2003.12056},
year = {2020}
}
备注
To appear in ECCV 2020 as spotlight. Code release: https://github.com/facebookresearch/unnas