负即正：增强图对比学习的外分布 generalization
机器学习
2024-05-28 v1 人工智能
摘要
图对比学习（GCL）作为图预训练领域的主导范式，取得了显著进展。然而，其在外分布（OOD）generalization 能力尚未得到充分探索。本文指出，传统的 InfoNCE 优化策略仅将跨域配对视为负样本，这不可避免地扩大了不同域之间的数据分布差距。这种做法违背了 OOD 场景下域不变性的要求，进而损害了模型的 OOD generalization 性能。为解决此问题，本文提出一种新颖策略“负即正”（Negative as Positive），即将最语义相似的跨域负样本配对在图对比学习中视为正样本。我们的实验结果表明，这一方法在广泛的数据集上显著提升了 GCL 的 OOD generalization 性能。
引用
@article{arxiv.2405.16224,
title = {Negative as Positive: Enhancing Out-of-distribution Generalization for Graph Contrastive Learning},
author = {Zixu Wang and Bingbing Xu and Yige Yuan and Huawei Shen and Xueqi Cheng},
journal= {arXiv preprint arXiv:2405.16224},
year = {2024}
}
备注
5 pages, 5 figures, In Proceedings of the 47th International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR '24), July 14-18, 2024, Washington, DC, USA