中文

自监督神经架构搜索

机器学习 2020-07-06 v1 计算机视觉与模式识别 机器学习

摘要

神经架构搜索(NAS)近来被用于在各类任务中实现性能提升,尤其是在图像分类领域。然而,当前的搜索策略依赖于大型标注数据集,这限制了其在仅有少量数据被标注的情况下的应用。自监督学习在利用无标注数据训练神经网络方面展现出巨大潜力。在这项工作中,我们提出了一种自监督神经架构搜索(SSNAS)方法,能够在无需标注数据的情况下发现新颖的网络模型。我们证明,这种搜索可以获得与使用“完全标注”的神经架构搜索进行监督训练相当的结果,并且能够提升自监督学习的性能。此外,我们展示了当搜索中标签数量相对较少时,所提方法的优势。

关键词

引用

@article{arxiv.2007.01500,
  title  = {Self-supervised Neural Architecture Search},
  author = {Sapir Kaplan and Raja Giryes},
  journal= {arXiv preprint arXiv:2007.01500},
  year   = {2020}
}