语言模型可通过少样本溯因推理改进事件预测

大型语言模型在广泛的推理任务上展现了令人惊叹的性能。在本文中，我们探究它们是否能对真实世界事件进行推理，并帮助提升事件序列模型的预测性能。我们设计了 LAMP，一个将大型语言模型集成于事件预测的框架。具体而言，语言模型执行溯因推理以辅助事件序列模型：事件模型基于过去提出对未来事件的预测；在少量专家标注示例的指导下，语言模型学习为每项预测建议可能的原因；一个搜索模块找出与这些原因相匹配的先前事件；一个评分函数学习检验检索到的事件是否确实能导致该预测。通过在多个具有挑战性的真实世界数据集上的大量实验，我们证明了我们的框架——得益于大型语言模型的推理能力——能显著优于最先进的事件序列模型。