HyperTeNet:基于超图与 Transformer 的个性化列表续写神经网络
机器学习
2021-10-08 v2 信息检索
摘要
个性化列表续写(PLC)任务是以个性化方式为用户生成的列表(有序项序列)策划下一项。该任务的主要挑战在于理解交互实体(用户、项和列表)之间的三元关系,这是现有工作所未考虑的。此外,它们未考虑同类型实体之间的多跳关系。另外,捕获列表中已有项之间的序列信息在决定被策划的下一项相关项时也起着至关重要的作用。在本工作中,我们提出 HyperTeNet——一种用于个性化列表续写任务的、基于自注意力超图与 Transformer 的神经网络架构,以应对上述挑战。我们使用图卷积学习同类型实体之间的多跳关系,并利用基于自注意力的超图神经网络,通过在 3-一致超图中的超链接预测来学习交互实体之间的三元关系。此外,实体嵌入与基于 Transformer 的架构共享,并通过交替优化过程学习。因此,该网络也学习到了将下一项添加到列表所需的序列信息。实验结果表明,HyperTeNet 在真实世界数据集上显著优于其他 SOTA 模型。我们的实现与数据集可在 https://github.com/mvijaikumar/HyperTeNet 获取。
引用
@article{arxiv.2110.01467,
title = {HyperTeNet: Hypergraph and Transformer-based Neural Network for Personalized List Continuation},
author = {Vijaikumar M and Deepesh Hada and Shirish Shevade},
journal= {arXiv preprint arXiv:2110.01467},
year = {2021}
}
备注
11 pages, 5 figures, The IEEE International Conference on Data Mining (ICDM) 2021