探寻内在韵律：探究大语言模型对文学风格的理解
计算与语言
2025-02-07 v1 机器学习
摘要
近期研究表明，语言模型经过训练后，能够识别比传统风格计量学所认为可行的短得多的文学段落的作者。我们复现了这些作者身份识别的结果，并将其扩展到一个衡量小说体裁的新数据集。我们发现，大语言模型能够区分作者身份和体裁，但其方式有所不同。一些模型似乎更依赖记忆，而另一些则更多地从学习作者/体裁特征中获益。随后，我们使用三种方法来探究一个高性能大语言模型定义风格的特征。这些方法包括对输入文本进行直接的句法消融，以及两种观察模型内部机制的方法。我们发现，作者风格比体裁层面的风格更容易定义，并且更受细微的句法决策和上下文词语用法的影响。然而，一些特征，如代词使用和词序，对于定义这两种文学风格都证明是重要的。
引用
@article{arxiv.2502.03647,
title = {Looking for the Inner Music: Probing LLMs' Understanding of Literary Style},
author = {Rebecca M. M. Hicke and David Mimno},
journal= {arXiv preprint arXiv:2502.03647},
year = {2025}
}