中文

草图与定制:一种反事实故事生成器

计算与语言 2021-04-05 v1 人工智能

摘要

近期的文本生成模型易于为给定文本生成相关且流畅的文本,但当修改给定文本的某些部分时缺乏因果推理能力。反事实故事改写是近期提出的一项用于测试文本生成模型因果推理能力的任务,它要求模型在条件被修改为反事实条件时预测相应的故事结尾。先前工作表明,传统的序列到序列模型不能很好地处理该问题,因为它常捕捉原始结尾与反事实结尾之间的虚假关联,而非条件与结尾之间的因果关系。为解决此问题,我们提出一种由条件与结尾中隐含的因果关系引导的草图与定制生成模型。在草图阶段,通过从原始结尾中移除与反事实条件冲突的词来提取骨架。在定制阶段,使用生成模型在反事实条件的引导下向骨架中填入恰当的词。以此方式,所得反事实结尾既与原始结尾相关,又与反事实条件一致。实验结果表明,与传统序列到序列模型相比,所提模型生成的结尾质量明显更优。

关键词

引用

@article{arxiv.2104.00929,
  title  = {Sketch and Customize: A Counterfactual Story Generator},
  author = {Changying Hao and Liang Pang and Yanyan Lan and Yan Wang and Jiafeng Guo and Xueqi Cheng},
  journal= {arXiv preprint arXiv:2104.00929},
  year   = {2021}
}