了解你的自监督学习：基于图像的生成式与判别式训练综述
计算机视觉与模式识别
2023-05-24 v1 人工智能
摘要
尽管监督学习在过去极大地推动了基于图像计算机视觉领域的技术水平，但近年来改进幅度已显著缩小，表明瓶颈将现。与此同时，自监督学习（SSL）在自然语言处理（NLP）中的使用在过去几年取得了巨大成功，这种新学习范式催生了强大的语言模型。受 NLP 领域优异结果的启发，依赖于聚类、对比学习、蒸馏与信息最大化的自监督方法——皆归属于判别式 SSL——在计算机视觉领域迅速被采用。不久之后，主要基于掩码图像建模的生成式 SSL 框架补充并超越了判别式 SSL 所取得的成果。因此，在三年之内，提出了超过 种面向图像生成式与判别式 SSL 的通用框架。在本综述中，我们回顾了围绕面向图像 SSL 的大量研究工作，提供历史视角，并关注最佳实践及有用的软件包。在此过程中，我们讨论了基于图像 SSL 的 pretext tasks，以及基于图像 SSL 中常用的技术。最后，为助力致力于面向图像 SSL 的研究者，我们勾勒出若干有前景的研究方向。
引用
@article{arxiv.2305.13689,
title = {Know Your Self-supervised Learning: A Survey on Image-based Generative and Discriminative Training},
author = {Utku Ozbulak and Hyun Jung Lee and Beril Boga and Esla Timothy Anzaku and Homin Park and Arnout Van Messem and Wesley De Neve and Joris Vankerschaver},
journal= {arXiv preprint arXiv:2305.13689},
year = {2023}
}
备注
Published in Transactions on Machine Learning Research