一种用于故事生成的时间变分模型

David Wilmot; Frank Keller

一种用于故事生成的时间变分模型

计算与语言 2021-09-15 v1 人工智能

作者: David Wilmot , Frank Keller

摘要

近期的语言模型在故事生成中能够生成有趣且语法正确的文本，但往往缺乏情节发展与长期连贯性。本文基于 TD-VAE（时间差分变分自编码器）实验了一种隐向量规划方法，将该模型用于条件化与重排序以进行文本生成。结果表明该方法在自动完形填空与交换评估中表现优异。人工评测显示，经 TD-VAE 重排序生成的故事优于 GPT-2 medium 基线，并与分层 LSTM 重排序模型性能相当。基于隐向量的条件化令人失望，并在人工评测中使性能下降，因其降低了生成多样性，且模型未能学会推进叙事。这凸显了技术任务性能（如完形填空）与生成有趣故事之间的重要差异。

关键词

故事生成时间差分变分自编码器隐向量规划重排序文本生成长期连贯性 GPT-2

引用

@article{arxiv.2109.06807,
  title  = {A Temporal Variational Model for Story Generation},
  author = {David Wilmot and Frank Keller},
  journal= {arXiv preprint arXiv:2109.06807},
  year   = {2021}
}

备注

9 pages, 19 with references and appendices, 6 figures, and 4 tables

一种用于故事生成的时间变分模型

摘要

关键词

引用

备注

相关论文