对比表示学习：框架与综述

对比学习近期因在计算机视觉领域的自监督表示学习中取得成功而受到关注。然而，对比学习的起源可追溯到 1990 年代，其发展跨越了许多领域，包括度量学习和自然语言处理。本文提供全面的文献综述，并提出一个通用的对比表示学习框架，简化并统一了许多不同的对比学习方法。我们还为对比学习的各个组件提供分类法，以总结其并区别于其他机器学习形式。随后我们讨论任何对比学习系统中存在的归纳偏置，并从机器学习的不同子领域视角分析我们的框架。文中还给出了对比学习在计算机视觉、自然语言处理、音频处理及其他领域以及强化学习中的应用示例。最后，我们讨论挑战及一些最有前景的未来研究方向。