中文

时序交互图上的提示学习

人工智能 2024-03-07 v2 机器学习 社会与信息网络

摘要

时序交互图被广泛用于表示现实世界的系统。为了促进 TIG 上的表示学习,研究人员提出了一系列 TIG 模型。然而,这些模型在其“预训练,预测”训练范式中,预训练与下游预测之间仍面临两个棘手的鸿沟。首先,预训练与推理数据之间的时间差异严重削弱了模型在动态演化数据上对未来进行远期预测的适用性。其次,前置任务与下游任务之间的语义分歧阻碍了它们的实际应用,因为它们难以在不同应用场景下对齐其学习和预测能力。最近,“预训练,提示”范式作为一种用于模型泛化的轻量级机制出现。应用此范式是解决上述挑战的潜在方案。然而,将此范式适应于 TIG 并非易事。由于缺乏对时间敏感动态的考虑以及表达能力的不足,在静态图环境中应用提示在时序场景中显得不足。为了解决这个问题,我们引入了时序交互图提示,这是一个与 TIG 模型无缝集成的通用框架,弥合了时间和语义鸿沟。具体而言,我们提出了一个时序提示生成器,为不同任务提供时间感知提示。这些提示以其极简设计脱颖而出,仅依赖于用极少监督数据微调提示生成器。为了满足不同的计算资源需求,我们提出了一种扩展的“预训练,基于提示的微调”范式,提供了更大的灵活性。通过大量实验,TIGPrompt 展示了 SOTA 性能和显著的效率优势。

关键词

引用

@article{arxiv.2402.06326,
  title  = {Prompt Learning on Temporal Interaction Graphs},
  author = {Xi Chen and Siwei Zhang and Yun Xiong and Xixi Wu and Jiawei Zhang and Xiangguo Sun and Yao Zhang and Feng Zhao and Yulin Kang},
  journal= {arXiv preprint arXiv:2402.06326},
  year   = {2024}
}

备注

11 pages, 8 figures