中文

Lingxi:一个多样性感知的中文现代诗歌生成系统

计算与语言 2021-08-30 v1

摘要

诗歌生成一直是自然语言处理中的一项困难任务。与普通的神经文本生成任务不同,诗歌对新颖性有很高的要求,因为一句过于易懂且包含过多高频词的句子可能不被视为有诗意,而适当含低频词、有一定模糊性的句子则可能新颖且富有创造性。受此启发,我们提出 Lingxi,一个多样性感知的中文现代诗歌生成系统。我们提出带随机化头部的关键核采样(NS-RH)算法,该算法对预测分布的“头部”(高频部分)进行随机化,以强调“相对低频”的词。与传统采样方法相比,所提算法能显著提升生成诗歌的新颖性。分布的置换可通过调节决定待置换“头部”的过滤参数来控制,实现多样性感知采样。我们发现,即使对很大一部分过滤词表进行随机化,实际也能生成流畅且新颖性明显更高的诗歌。我们还提出一种基于语义相似度的拒绝采样算法,在短输入诗歌标题基础上创建更长且信息更丰富的上下文,同时保持与标题的高语义相似度,从而缓解偏题问题。

关键词

引用

@article{arxiv.2108.12108,
  title  = {Lingxi: A Diversity-aware Chinese Modern Poetry Generation System},
  author = {Xinran Zhang and Maosong Sun and Jiafeng Liu and Xiaobing Li},
  journal= {arXiv preprint arXiv:2108.12108},
  year   = {2021}
}