基于扩散模型的分布鲁棒图神经网络置信推荐
机器学习
2025-01-28 v1 人工智能
图形学
机器学习
摘要
分布鲁棒优化(DRO)基于的图神经网络方法通过优化模型在最坏情况下的性能来提高推荐系统的置信(OOD)泛化能力。然而,这些研究未考虑训练数据中噪声样本的影响,导致泛化能力下降和准确率降低。通过实验和理论分析,本文揭示当前基于DRO的图推荐方法会为噪声分布赋予更大权重,导致模型参数学习被噪声分布主导。当模型过于关注拟合训练数据中的噪声样本时,可能学习到无法泛化到置信数据的无关或无意义特征。为解决这一挑战,我们设计了一种分布鲁棒图模型用于置信推荐(DRGO)。具体而言,我们首先采用一种简单且有效的扩散范式来缓解潜在空间中噪声的影响。此外,在DRO目标函数中引入熵正则项,以避免最坏分布中样本权重的极端值。我们还提供了DRGO泛化误差界的理论证明,以及该方法如何缓解噪声样本影响的理论分析,这有助于从理论视角更好地理解所提出的框架。我们在四个数据集上进行大量实验,以评估该框架在三种典型分布迁移情况下的有效性,结果在独立且同分布(IID)和置信情况下均显示其优越性。
引用
@article{arxiv.2501.15555,
title = {Distributionally Robust Graph Out-of-Distribution Recommendation via Diffusion Model},
author = {Chu Zhao and Enneng Yang and Yuliang Liang and Jianzhe Zhao and Guibing Guo and Xingwei Wang},
journal= {arXiv preprint arXiv:2501.15555},
year = {2025}
}
备注
14 pages, Accepted by WWW'25