PoetryDiffusion：面向诗歌生成中语义与格律联合操控的方法
计算与语言
2023-12-20 v3
摘要
可控文本生成是自然语言生成（NLG）中一个具有挑战性且有意义的方向。其中，诗歌生成因其对文本生成具有明确且严格的条件而成为典型代表，是评估当前方法的理想试验场。尽管已有工作成功控制了诗歌生成的语义或格律方面，但同时处理两者仍具挑战。本文率先使用Diffusion模型生成十四行诗和中国宋词以应对此类挑战。在语义方面，我们基于Diffusion模型构建的PoetryDiffusion模型通过综合考虑句子整体信息来生成完整句子或诗歌，该方法增强了语义表达，区别于自回归模型和大语言模型（LLM）。对于格律控制，扩散生成的分离特性及其约束控制模块使我们能够灵活引入一种新颖的格律控制器来操控和评估格律（格式与节奏）。PoetryDiffusion中的去噪过程允许逐步增强语义并灵活集成格律控制器，该控制器可计算并对显著偏离目标控制分布的状态施加惩罚。在两个数据集上的实验结果表明，我们的模型在语义、格律和整体性能的自动评估以及人工评估上均优于现有模型。
引用
@article{arxiv.2306.08456,
title = {PoetryDiffusion: Towards Joint Semantic and Metrical Manipulation in Poetry Generation},
author = {Zhiyuan Hu and Chumin Liu and Yue Feng and Anh Tuan Luu and Bryan Hooi},
journal= {arXiv preprint arXiv:2306.08456},
year = {2023}
}
备注
Accepted by AAAI2024