中文

TwinCL:一种用于协同过滤的孪生图对比学习模型

信息检索 2024-10-01 v1

摘要

在推荐与协同过滤领域,图对比学习(GCL)已成为一种极具影响力的方法。然而,对比学习有效的原因仍不甚明了。在本文中,我们质疑了 GCL 中对图结构或嵌入空间使用随机增强的传统做法,因为这可能会破坏图神经网络固有的结构与语义信息。此外,事实证明,与自适应速率增强相比,固定速率数据增强效果较差。在初始训练阶段,显著的扰动更为合适,而随着训练趋于收敛,更轻微的扰动会产生更好的结果。我们引入了孪生编码器来替代随机增强,证明了传统增强技术的冗余性。孪生编码器更新机制确保在早期阶段生成更多样化的对比视图,并随着训练的进行逐渐过渡到相似度更高的视图。此外,我们从超球面上对齐与均匀性的角度研究了学习到的表示,以实现更高效的优化。我们提出的孪生图对比学习模型——TwinCL——在对齐用户和物品嵌入正样本对以及来自孪生编码器的表示的同时,保持了嵌入在超球面上的均匀性。我们的理论分析与实验结果表明,所提出的利用孪生编码器优化对齐与均匀性的模型,有助于提升推荐准确率与训练效率。在三个公开数据集上的综合实验中,我们提出的 TwinCL 在推荐准确率上平均提升了 5.6%(NDCG@10),且训练速度更快,同时有效缓解了流行度偏差。

关键词

引用

@article{arxiv.2409.19169,
  title  = {TwinCL: A Twin Graph Contrastive Learning Model for Collaborative Filtering},
  author = {Chengkai Liu and Jianling Wang and James Caverlee},
  journal= {arXiv preprint arXiv:2409.19169},
  year   = {2024}
}