面向个性化的图基础模型
信息检索
2024-03-13 v1 机器学习
摘要
在个性化领域，整合消费信号和基于内容的表示等多样化信息源，对于构建最先进的解决方案日益关键。在此方面，该主题研究的两大趋势是图神经网络 (GNN) 和基础模型 (FM)。虽然 GNN 已成为工业界大规模赋能个性化的流行方案，但 FM 直到最近才因其在排序和检索等个性化任务中的卓越表现而受到关注。本文提出了一种专为个性化定制的基于图的基础建模方法。该方法的核心是一个异构图神经网络 (HGNN)，旨在捕捉跨多种可推荐物品类型的多跳内容和消费关系。为确保基础模型所需的通用性，我们采用基于大型语言模型 (LLM) 的文本节点特征化方法以适配所有物品类型，并利用共交互信号构建图谱，这些信号本质上超越了内容特异性。为促进实际泛化，我们进一步将 HGNN 与基于双塔 (2T) 架构的适配机制相结合，该机制同样独立于内容类型运作。这种多阶段方法确保了高可扩展性：HGNN 生成通用嵌入，而 2T 组件则在连续空间中对海量用户 - 物品交互数据进行建模。我们的综合方法经过严格测试，被证明能在现实世界的工业级音频流媒体平台上，为多样化的产品阵列提供有效的推荐。
引用
@article{arxiv.2403.07478,
title = {Towards Graph Foundation Models for Personalization},
author = {Andreas Damianou and Francesco Fabbri and Paul Gigioli and Marco De Nadai and Alice Wang and Enrico Palumbo and Mounia Lalmas},
journal= {arXiv preprint arXiv:2403.07478},
year = {2024}
}