自监督的批判性分析：或从单幅图像中能学到什么
计算机视觉与模式识别
2020-02-20 v3
摘要
我们批判性地审视流行的自监督技术，这些技术用于在无人工标注情况下学习深度卷积神经网络。我们表明，三种不同且具有代表性的方法——BiGAN、RotNet 和 DeepCluster——只要使用强数据增强，就能从单幅图像中学到卷积网络的前几层，其效果与使用数百万图像和人工标注相当。然而，对于更深的层，即便使用数百万无标注图像训练，与人工监督的差距也无法弥合。我们得出结论：(1) 深度网络前几层的权重包含关于自然图像统计的有限信息；(2) 此类低级统计可通过自监督与强监督一样好地学习；(3) 低级统计可通过合成变换捕获，而非使用大型图像数据集。
引用
@article{arxiv.1904.13132,
title = {A critical analysis of self-supervision, or what we can learn from a single image},
author = {Yuki M. Asano and Christian Rupprecht and Andrea Vedaldi},
journal= {arXiv preprint arXiv:1904.13132},
year = {2020}
}
备注
Accepted paper at the International Conference on Learning Representations (ICLR) 2020