深度学习与子词单元方法在诗歌生成中的应用
计算与语言
2019-01-23 v1
摘要
自动诗歌生成是自然语言处理研究中新颖且有趣的应用。由于技术与神经计算能力的快速发展，这一方向在过去几年中变得更加流行。该类研究可应用于语言学与文学研究、社会科学实验，或仅用于娱乐。已知最有效的人工诗歌生成方法使用循环神经网络（RNN）。我们也使用 RNN 以亚当·密茨凯维奇的风格生成诗歌。我们的网络在《塔杜施先生》诗作上训练。对于数据预处理，我们使用了专门的词形还原工具，这是本工作的主要创新与贡献之一。我们的实验在源文本上进行，该文本被划分为子词单元（分辨率级别接近音节）。该方法新颖，且在已发表文献中不常被采用。子词单元似乎是分析波兰语的自然选择，因为该语言由于格、性形式以及庞大词汇量而形态丰富。此外，《塔杜施先生》包含韵脚，因此对音节的分析可能具有意义。我们使用温度参数的不同设置验证模型，该参数控制生成文本的随机性。我们还将结果与在相同文本上训练但划分为字符（这是除完整词单元外最常见的方法）的类似模型进行比较。差异巨大。我们的方案生成的诗歌好得多，能够遵循源数据文本的格律与词汇。
引用
@article{arxiv.1901.07426,
title = {Deep learning and sub-word-unit approach in written art generation},
author = {Krzysztof Wołk and Emilia Zawadzka-Gosk and Wojciech Czarnowski},
journal= {arXiv preprint arXiv:1901.07426},
year = {2019}
}