一致性与连贯性增强的故事生成

故事生成是一项具有挑战性的任务，要求在整个故事中保持情节和人物的一致性。先前的工作表明，大规模语言模型GPT2在故事生成上取得了良好性能。然而，我们观察到GPT2生成的故事中仍存在几类严重问题，可归为两方面：一致性与连贯性。在一致性方面，一方面，GPT2无法显式保证情节的一致性；另一方面，生成的故事通常包含指代错误。在连贯性方面，GPT2未直接考虑故事句子间的语篇关系。为增强生成故事的一致性与连贯性，我们提出一个两阶段生成框架，第一阶段组织描绘故事情节与事件的故事大纲，第二阶段将大纲扩展为完整故事。从而可以显式控制和保证情节一致性。此外，引入指代监督信号以减少指代错误并改善指代一致性。而且，我们设计了一个语篇关系建模的辅助任务来提高生成故事的连贯性。在故事数据集上的实验结果表明，我们的模型在自动指标和人工评估两方面均优于基线方法。