自监督神经架构搜索
机器学习
2020-07-06 v1 计算机视觉与模式识别
机器学习
摘要
神经架构搜索(NAS)近来被用于在各类任务中实现性能提升,尤其是在图像分类领域。然而,当前的搜索策略依赖于大型标注数据集,这限制了其在仅有少量数据被标注的情况下的应用。自监督学习在利用无标注数据训练神经网络方面展现出巨大潜力。在这项工作中,我们提出了一种自监督神经架构搜索(SSNAS)方法,能够在无需标注数据的情况下发现新颖的网络模型。我们证明,这种搜索可以获得与使用“完全标注”的神经架构搜索进行监督训练相当的结果,并且能够提升自监督学习的性能。此外,我们展示了当搜索中标签数量相对较少时,所提方法的优势。
引用
@article{arxiv.2007.01500,
title = {Self-supervised Neural Architecture Search},
author = {Sapir Kaplan and Raja Giryes},
journal= {arXiv preprint arXiv:2007.01500},
year = {2020}
}