在变分自编码器中以多任务目标探索故事生成
计算与语言
2021-11-17 v1 机器学习
摘要
GPT-2 因其强大的生成能力常被用于故事生成模型。然而，它仍难以生成连贯的故事且缺乏多样性。当前故事生成模型将情节或常识等额外信息引入 GPT-2 以引导生成过程。这些方法侧重于提升故事生成质量，而我们的工作同时关注质量与多样性。我们探索结合 BERT 与 GPT-2 构建变分自编码器（VAE），并通过添加额外目标来学习故事主题与话语关系等全局特征以扩展该模型。我们的评估表明，增强的 VAE 能提供更优的质量与多样性权衡，生成重复性更低的故事内容，并学到更具信息量的潜变量。
引用
@article{arxiv.2111.08133,
title = {Exploring Story Generation with Multi-task Objectives in Variational Autoencoders},
author = {Zhuohan Xie and Trevor Cohn and Jey Han Lau},
journal= {arXiv preprint arXiv:2111.08133},
year = {2021}
}
备注
10 pages, 3 figures, ALTA2021