ClarET：面向事件生成与分类的关联感知上下文到事件预训练Transformer

在给定具有关联事件的上下文条件下生成新事件，在许多以事件为中心的推理任务中起着关键作用。现有工作要么将范围局限于特定场景，要么忽视事件级关联。本文提出预训练一个通用的关联感知上下文到事件Transformer（ClarET）用于以事件为中心的推理。为此，我们提出三个新颖的以事件为中心的目标，即整体事件恢复、对比性事件关联编码和基于提示的事件定位，它们通过有效训练凸显事件级关联。所提出的 ClarET 可应用于广泛的以事件为中心的推理场景，因其具备以下通用性：(i) 事件关联类型（如因果、时序、对比），(ii) 应用形式（即生成与分类），以及 (iii) 推理类型（如溯因、反事实与结尾推理）。在 9 个基准（涵盖 4 种推理类型与多样事件关联的 5 个生成与 4 个分类任务）上的经验微调结果以及零样本和少样本学习，验证了其有效性与泛化能力。