分子图上的三角对比学习
机器学习
2022-05-27 v1
摘要
近期的对比学习方法已在各类任务中展现出有效性，其学习对数据增强不变的泛化表示，从而取得最先进的性能。鉴于自监督学习所用大规模无标签数据的多面性，而多数真实下游任务仅使用单一格式数据，一个能够训练单模态以从其他模态学习多样视角的多模态框架是一项重要挑战。本文中，我们提出TriCL（三角对比学习），一种用于三模态对比学习的通用框架。TriCL利用三角面积损失，一种新颖的模态间对比损失，通过同时对比正负三元组的面积来学习嵌入空间的角度几何。在对齐性和均匀性方面对嵌入空间的系统观察表明，三角面积损失可通过以角度区分模态来解决线坍缩问题。我们的实验结果也证明了TriCL在分子性质预测下游任务上的优越性，这意味着嵌入空间的优势确实有益于下游任务性能。
引用
@article{arxiv.2205.13279,
title = {Triangular Contrastive Learning on Molecular Graphs},
author = {MinGyu Choi and Wonseok Shin and Yijingxiu Lu and Sun Kim},
journal= {arXiv preprint arXiv:2205.13279},
year = {2022}
}