突破自监督 ResNets 的极限：我们能在 ImageNet 上无标签超越监督学习吗？
计算机视觉与模式识别
2022-11-07 v2 机器学习
机器学习
摘要
尽管自监督方法在残差网络的表示学习方面取得了最新进展，但它们在 ImageNet 分类基准测试上仍然不如监督学习，这限制了它们在性能关键型场景中的适用性。基于 ReLIC [Mitrovic et al., 2021] 的先前理论见解，我们将额外的归纳偏置引入自监督学习。我们提出了一种新的自监督表示学习方法 ReLICv2，该方法将显式不变性损失与在适当构建的多种数据视图上的对比目标相结合，以避免学习虚假相关性并获得更具信息量的表示。ReLICv2 在 ResNet50 上的 ImageNet 线性评估中达到了 的 top- 准确率，从而以绝对值 提升了之前的 SOTA；在更大的 ResNet 模型上，ReLICv2 达到了高达 的准确率，以高达 的优势超越了以前的自监督方法。最值得注意的是，ReLICv2 是首个在一系列 ResNet 架构的同等比较中始终优于监督基线的无监督表示学习方法。使用 ReLICv2，我们还学习了比以前工作更鲁棒且更具可迁移性的表示，在图像分类和语义分割上的分布外泛化能力均更好。最后，我们表明，尽管使用了 ResNet 编码器，ReLICv2 仍可与 SOTA 自监督 vision transformer 相媲美。
引用
@article{arxiv.2201.05119,
title = {Pushing the limits of self-supervised ResNets: Can we outperform supervised learning without labels on ImageNet?},
author = {Nenad Tomasev and Ioana Bica and Brian McWilliams and Lars Buesing and Razvan Pascanu and Charles Blundell and Jovana Mitrovic},
journal= {arXiv preprint arXiv:2201.05119},
year = {2022}
}