面向基础模型及更广范围的异构对比学习
机器学习
2024-04-02 v1
摘要
在大数据和人工智能时代，一种新兴范式是利用对比自监督学习来建模大规模异构数据。许多现有的基础模型受益于对比自监督学习的泛化能力，通过学习紧凑且高质量的表示而不依赖任何标签信息。随着基础模型在多个领域（包括自然语言处理和计算机视觉）的爆炸性进展，迫切需要一篇关于基础模型异构对比学习的全面综述。为此，本综述批判性地评估了基础模型异构对比学习的当前格局，强调了对比学习的开放挑战和未来趋势。特别是，我们首先介绍了最新的基于对比学习的方法如何处理视图异构性，以及对比学习如何用于训练和微调多视图基础模型。然后，我们转向任务异构性的对比学习方法，包括预训练任务和下游任务，并展示了不同任务如何与对比学习损失结合以实现不同目的。最后，我们通过讨论开放挑战并展望对比学习的未来方向来结束本综述。
引用
@article{arxiv.2404.00225,
title = {Heterogeneous Contrastive Learning for Foundation Models and Beyond},
author = {Lecheng Zheng and Baoyu Jing and Zihao Li and Hanghang Tong and Jingrui He},
journal= {arXiv preprint arXiv:2404.00225},
year = {2024}
}