通过反事实调优增强大语言模型在推荐系统中的时序感知能力
计算与语言
2025-08-21 v2 人工智能
信息检索
摘要
近期的研究将大型语言模型（LLM）应用于序列推荐，利用其预训练知识和推理能力为用户提供更个性化的体验。然而，现有的 LLM 基于方法未能充分利用用户历史交互序列中所蕴含的丰富时序信息，这源于其基本架构限制：LLM 通过自注意力机制处理信息，缺乏内在的序列排序能力，且位置嵌入主要为自然语言设计，不适用于用户交互序列。这一限制显著削弱了其捕捉用户偏好随时间演变并准确预测未来兴趣的能力。为此，我们提出了基于反事实推理的大型语言模型时序增强框架（Counterfactual Enhanced Temporal Framework for LLM-Based Recommendation, CETRec）。CETRec 基于因果推断原理，能够隔离并衡量时序信息对推荐结果的具体影响。结合我们从因果分析中派生的反事实调优任务，CETRec 有效提升了 LLM 对绝对顺序（即项目交互的相对时间）和相对顺序（项目之间的序列关系）的感知能力。在真实数据集上的大量实验表明，我们的 CETRec 方法有效。我们的代码已公开于 https://anonymous.4open.science/r/CETRec-B9CE/。
引用
@article{arxiv.2507.03047,
title = {Enhancing Temporal Sensitivity of Large Language Model for Recommendation with Counterfactual Tuning},
author = {Yutian Liu and Zhengyi Yang and Jiancan Wu and Xiang Wang},
journal= {arXiv preprint arXiv:2507.03047},
year = {2025}
}