HeterRec: 用于可扩展序列推荐的异质信息Transformer
信息检索
2025-04-22 v3
摘要
基于Transformer的序列推荐(TSR)模型在推荐系统中展现出优越的性能，其中物品表征的质量起着关键作用。经典的表征方法通过拼接或神经网络整合物品特征以生成均质表征序列。虽然直接明了，但这些方法忽略了物品特征的异质性，限制了Transformer捕获细粒度模式的能力，并制约了可扩展性。近期研究尝试将用户侧的异质特征整合到物品表征序列中，但与性能密切相关的物品侧异质特征仍被排除在外。为应对这些挑战，我们提出了一种用于序列推荐的异质信息Transformer模型(HeterRec)，其中包含异质Token展平层(HTFL)和层次化因果Transformer层(HCT)。我们的HTFL是一种新颖的物品Token化方法，将物品转换为异质Token集，并将这些Token组织为异质序列，有效增强了模型扩展时的性能增益。此外，HCT引入了Token级和物品级因果Transformer，从异质序列中提取细粒度模式。此外，我们设计了列表式多步预测(Listwise Multi-step Prediction, LMP)损失函数以进一步提升性能。在离线和在线数据集上的广泛实验表明，HeterRec模型取得了优越的性能。
引用
@article{arxiv.2503.01469,
title = {HeterRec: Heterogeneous Information Transformer for Scalable Sequential Recommendation},
author = {Hao Deng and Haibo Xing and Kanefumi Matsuyama and Yulei Huang and Jinxin Hu and Hong Wen and Jia Xu and Zulong Chen and Yu Zhang and Xiaoyi Zeng and Jing Zhang},
journal= {arXiv preprint arXiv:2503.01469},
year = {2025}
}
备注
6 pages, 3 figures, Proceedings of the 48th International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR '25), July 13--18, 2025, Padua, Italy