DMGIN:多模态LLM如何增强大规模推荐模型以适应用户生命周期点击行为
信息检索
2025-09-01 v1
摘要
基于生命周期用户行为序列建模用户兴趣是增强点击-through率(CTR)预测的关键。然而,长期的点击行为序列本身会导致严重的性能问题:数据量大导致计算成本高昂且在模型训练和推理中效率低下。传统方法通过引入两阶段方法来解决此问题,但这会因未完全利用完整序列上下文而损害模型效果。更重要的是,将多模态嵌入整合到现有的大规模推荐模型(LRM)中 presents significant挑战:这些嵌入常常加剧计算负担并与LRM架构不匹配。为解决这些问题并提高模型的效率和准确性,我们引入深层多模态群组兴趣网络(Deep Multimodal Group Interest Network, DMGIN)。鉴于用户点击行为序列中包含大量重复物品且行为和时间戳各不相同,DMGIN采用多模态LLM(MLLM)进行分组,更有效地重新组织完整的生命周期点击行为序列,几乎没有额外的计算开销,远远优于直接引入多模态嵌入。为缓解分组可能导致的信息损失,我们实施了两个关键策略。首先,我们同时使用兴趣统计信息和群组内部转换器来捕获群组特征。其次,对按时间顺序排列的群组应用群组间转换器来捕获用户群组兴趣的演变。我们在工业和公共数据集上的广泛实验确认了DMGIN的有效性和效率。我们LBS广告系统中的A/B测试显示,DMGIN将CTR提高4.7%,每英里收入提高2.3%。
引用
@article{arxiv.2508.21801,
title = {DMGIN: How Multimodal LLMs Enhance Large Recommendation Models for Lifelong User Post-click Behaviors},
author = {Zhuoxing Wei and Qingchen Xie and Qi Liu},
journal= {arXiv preprint arXiv:2508.21801},
year = {2025}
}
备注
8 pages, 5 figures