基于 Transformer 的时序知识图谱演化事件链学习

时序知识图谱 (TKG) 推理通常涉及沿时间线完成缺失的事实元素。虽然现有方法能够通过整合时间信息为四元组中的每个事实元素学习良好的嵌入，但它们往往无法推断时事的演化。这主要是由于 (1) 不足够探索单个四元组内部结构和语义关系，以及 (2) 不足够学习不同四元组之间上下文和时间相关性的统一表示。为克服这些限制，我们提出一种 novel Transformer-based reasoning model（称为 ECEformer）用于 TKG，以学习演化事件链 (ECE)。具体而言，我们将实体节点的邻域子图按时间顺序展开，形成演化事件链作为模型的输入。随后，我们利用 Transformer 编码器学习 ECE 的 intra-quadruples 嵌入。我们 then 基于多层感知机 (MLP) 设计一种混合上下文 reasoning 模块，以学习 ECE 的 inter-quadruples 统一表示，同时完成时序知识推理。此外，为增强事件的时效性，我们设计算法预测任务，以完成所学统一表示中的有效时序信息。在六个基准数据集上的大量实验验证了该方法的 最新性能和有效性。