SeDyT:基于动态实体嵌入序列建模的多步事件预测通用框架
机器学习
2021-09-13 v1 计算与语言
摘要
时序知识图谱以主语、关系、宾语和时间戳的形式存储事件,这些通常由动态异构图表示。事件预测是时序知识图谱推理中一项关键且具有挑战性的任务,旨在预测未来事件的主语或宾语。为了获得未来多步的时序嵌入,现有方法学习捕获观察事件联合分布的生成模型。为了降低高昂的计算成本,这些方法在训练和推理中依赖于不现实的独立性假设和近似。在这项工作中,我们提出了 SeDyT,这是一个判别式框架,通过对动态实体嵌入执行序列建模来解决多步事件预测问题。SeDyT 由两个组件组成:一个在过去生成动态实体嵌入的时序图神经网络,以及一个在未来预测实体嵌入的序列模型。与生成模型相比,SeDyT 不依赖任何基于启发式的概率模型,并且在训练和推理中都具有较低的计算复杂度。SeDyT 与大多数时序图神经网络和序列模型兼容。我们还设计了一种高效的训练方法,在一次梯度下降传播中训练这两个组件。我们在五个流行的数据集上评估了 SeDyT 的性能。通过结合时序图神经网络模型和序列模型,SeDyT 在不使用验证集时实现了平均 2.4% 的 MRR 提升,在使用验证集时实现了超过 10% 的 MRR 提升。
引用
@article{arxiv.2109.04550,
title = {SeDyT: A General Framework for Multi-Step Event Forecasting via Sequence Modeling on Dynamic Entity Embeddings},
author = {Hongkuan Zhou and James Orme-Rogers and Rajgopal Kannan and Viktor Prasanna},
journal= {arXiv preprint arXiv:2109.04550},
year = {2021}
}