对比表示学习的负采样：综述
信息检索
2022-06-02 v1
摘要
对比表示学习（CRL）的学比较范式通过正样本与负样本比较进行表示学习，已在自然语言处理、计算机视觉、信息检索与图学习等广泛领域取得巨大成功。尽管许多研究聚焦于数据增强、非线性变换或CRL其他特定部分，负样本选择的重要性在文献中常被忽视。本文系统综述负采样（NS）技术，并探讨其如何促成CRL的成功。作为核心内容，我们将现有NS方法归纳为四类，各述优劣，并进一步提出若干开放研究问题以指明未来方向。通过泛化并对齐跨领域的负采样基本思想，我们希望本综述能加速跨领域知识共享，并激励未来更优CRL的研究。
引用
@article{arxiv.2206.00212,
title = {Negative Sampling for Contrastive Representation Learning: A Review},
author = {Lanling Xu and Jianxun Lian and Wayne Xin Zhao and Ming Gong and Linjun Shou and Daxin Jiang and Xing Xie and Ji-Rong Wen},
journal= {arXiv preprint arXiv:2206.00212},
year = {2022}
}
备注
6 pages