中文

什么推动故事向前?推断常识解释作为未来事件生成的提示

计算与语言 2022-08-19 v2 机器学习

摘要

事件序列上的预测对于信息检索与自然语言处理中的许多真实应用至关重要。未来事件生成(FEG)是事件序列预测中一项具挑战性的任务,因为它不仅要求流畅的文本生成,还需常识推理以维持整个事件故事的逻辑连贯。本文中,我们提出一种新颖的可解释 FEG 框架 Coep。它凸显并整合两类事件知识:直接事件-事件关系的顺序知识,以及反映事件间内在推动故事前进的中间角色心理(如意图、原因、反应)的推断知识。为缓解知识遗忘问题,我们为每类知识设计两个模块 Im 与 Gm,并通过提示调优结合。首先,Im 专注于理解推断知识以生成常识解释,并为 Gm 提供软提示向量。我们还设计了一个对比判别器以增强泛化能力。其次,Gm 在 Im 的引导下通过建模直接顺序知识生成未来事件。自动与人工评估表明,我们的方法能生成更具连贯性、具体性与逻辑性的未来事件。

关键词

引用

@article{arxiv.2201.07099,
  title  = {What Makes the Story Forward? Inferring Commonsense Explanations as Prompts for Future Event Generation},
  author = {Li Lin and Yixin Cao and Lifu Huang and Shu'ang Li and Xuming Hu and Lijie Wen and Jianmin Wang},
  journal= {arXiv preprint arXiv:2201.07099},
  year   = {2022}
}