以原则性对抗对比损失增强协同过滤
信息检索
2023-10-31 v1
摘要
对比学习（CL）在自监督学习任务中取得了令人印象深刻的性能，展现出优越的泛化能力。受此成功启发，将CL引入协同过滤（CF）在半监督Top-K推荐中十分流行。其基本思路是常规地进行基于启发式的数据增强，并对增强视图应用对比损失（如InfoNCE）。然而，一些CF特有的挑战使得这种采用不够最优，例如分布外问题、假负样本风险以及Top-K评估的本质。它们要求基于CL的CF方案更多地关注挖掘困难负样本，并从海量未标记的用户-物品交互中区分假负样本，以获取有信息的对比信号。更糟糕的是，对CF方法中对比损失的理解有限，尤其是关于其泛化能力。为弥补这一差距，我们深入探究了对比损失在CF中取得成功的原因，并提出了一种原则性的对抗InfoNCE损失（AdvInfoNCE），它是InfoNCE的一种变体，专为CF方法定制。AdvInfoNCE以对抗方式自适应地探索并为每个负样本分配难度，进一步利用细粒度的难度感知排序准则来增强推荐系统的泛化能力。使用AdvInfoNCE训练CF模型，我们在合成和真实世界基准数据集上验证了AdvInfoNCE的有效性，从而展示了其缓解分布外问题的泛化能力。鉴于AdvInfoNCE相对于大多数对比损失函数的理论保证和经验优势，我们主张将其作为推荐系统尤其是分布外任务中的标准损失。代码见 https://github.com/LehengTHU/AdvInfoNCE。
引用
@article{arxiv.2310.18700,
title = {Empowering Collaborative Filtering with Principled Adversarial Contrastive Loss},
author = {An Zhang and Leheng Sheng and Zhibo Cai and Xiang Wang and Tat-Seng Chua},
journal= {arXiv preprint arXiv:2310.18700},
year = {2023}
}
备注
Accepted to NeurIPS 2023