RAU:面向推荐系统表示学习的正则化对齐与均匀性
信息检索
2025-03-25 v1
摘要
推荐系统(RecSys)已成为现代社会的重要组成部分,在各类在线平台中推动着用户参与度和满意度。大多数推荐系统专注于设计强大的编码器,将用户和物品嵌入到高维向量表示空间中,并通过损失函数优化其表示分布。近期研究表明,直接优化表示分布的关键属性(如对齐性和均匀性)可以优于复杂的编码器设计。然而,现有的关键属性优化方法忽视了数据集稀疏性对模型的影响:有限的用户-物品交互导致稀疏对齐,而过多的交互则导致均匀性失衡,二者均会降低模型性能。本文识别出稀疏对齐与均匀性失衡两个问题,并进一步提出正则化对齐与均匀性(Regularized Alignment and Uniformity, RAU)方法以分别应对这两个问题。RAU 包含两种分别针对对齐性和均匀性的新型正则化方法,以学习更好的用户/物品表示。1) 中心增强对齐:进一步对齐批次内用户/物品的平均表示,以提供更强的对齐信号,并进一步缩小用户与物品表示之间的差异。2) 低方差引导均匀性:在均匀性优化的同时最小化成对距离的方差,从而在训练过程中为更稳定的均匀性提升提供额外引导。我们在三个真实世界数据集上进行了大量实验,所提出的 RAU 相比当前最优的协同过滤方法取得了显著的性能提升,从而验证了这两种正则化方法的优势。
引用
@article{arxiv.2503.18300,
title = {RAU: Towards Regularized Alignment and Uniformity for Representation Learning in Recommendation},
author = {Xi Wu and Dan Zhang and Chao Zhou and Liangwei Yang and Tianyu Lin and Jibing Gong},
journal= {arXiv preprint arXiv:2503.18300},
year = {2025}
}