野外视觉特征的自监督预训练
计算机视觉与模式识别
2021-03-08 v2 人工智能
摘要
近来，MoCo、SimCLR、BYOL 和 SwAV 等自监督学习方法已缩小了与有监督方法的差距。这些结果是在受控环境中取得的，即高度精选的 ImageNet 数据集。然而，自监督学习的前提是它可以从任何随机图像和任何无界数据集中学习。在这项工作中，我们通过在无监督的随机、未精选图像上训练大型模型，来探索自监督是否名副其实。我们最终的 SElf-supERvised（SEER）模型是一个拥有 1.3B 参数的 RegNetY，在 1B 随机图像上用 512 块 GPU 训练，取得了 84.2% 的 top-1 准确率，超越了最佳自监督预训练模型 1%，并证实了自监督学习在真实世界设置中有效。有趣的是，我们还观察到自监督模型是优秀的少样本学习器，在仅能访问 10% 的 ImageNet 时取得了 77.9% 的 top-1 准确率。代码：https://github.com/facebookresearch/vissl
引用
@article{arxiv.2103.01988,
title = {Self-supervised Pretraining of Visual Features in the Wild},
author = {Priya Goyal and Mathilde Caron and Benjamin Lefaudeux and Min Xu and Pengchao Wang and Vivek Pai and Mannat Singh and Vitaliy Liptchinsky and Ishan Misra and Armand Joulin and Piotr Bojanowski},
journal= {arXiv preprint arXiv:2103.01988},
year = {2021}
}