中文

(未能)用深度学习理解拉丁诗歌风格

计算与语言 2024-04-10 v1

摘要

本文总结了一些主要不成功的尝试,即通过检查在包含声音和格律特征的古典拉丁诗歌语料库上训练的各种神经网络(LSTM和CNN)的注意力来理解作者风格。精心配置的神经网络被证明是极其强大的作者分类器,因此人们希望它们或许能教给“传统”读者一些关于作者风格差异的知识。遗憾的是,它们的推理到目前为止仍难以理解。虽然总体目标尚未实现,但本工作报告了一些有用的发现,包括编码和嵌入诗歌的有效方式、神经网络家族的相对优缺点,以及在该领域设计和检查神经网络模型的有用(和不太有用)的技术。本文建议,对于诗歌,CNN比LSTM更好——它们训练更快,具有相当的准确性,并且(可能)提供更好的可解释性。基于大量实验,本文还建议简单的可训练嵌入比领域特定方案更有效,并强调了减少过拟合技术(如dropout和批归一化)的重要性。

关键词

引用

@article{arxiv.2404.06150,
  title  = {(Not) Understanding Latin Poetic Style with Deep Learning},
  author = {Ben Nagy},
  journal= {arXiv preprint arXiv:2404.06150},
  year   = {2024}
}