叙事扁平化：后训练如何压缩 LLM 小说中的主题、情感和风格变化
计算与语言
2026-05-28 v1
摘要
大型语言模型能生成流畅的小说，但其创造性输出普遍被认为是扁平的。我们探究这种特质在训练中的来源，以及它是否同样影响人类小说的不同领域。我们构建了一个匹配的故事续写范式，涵盖 StoryStar（公共平台）、TMAS（提示引导）和《纽约客》（专业文学），并将四个 OLMo 32B 检查点（Base、SFT、DPO、RLVR）的续写与匹配的人类文本进行比较。由于这些检查点共享架构、规模、分词器和预训练，该设计隔离了后训练的影响。我们沿着三个句子层面的维度衡量每次续写：主题运动、情感普遍性和语言多样性。在所有三个维度上，后训练都压缩了动态变化：主题转换变得更加统一，高强度情感让位于中性，故事间的风格多样性缩小。我们将这种渐进式损失称为叙事扁平化。该效应在故事领域间方向稳定，但差距大小取决于人类基线：专业文学小说被压缩得最厉害，而公共平台和提示引导的故事显示出较小的差距，这与它们的人类基线更接近模型的默认节奏一致。后训练检查点在不同领域间收敛，表明对齐产生了一种续写机制，该机制在很大程度上不依赖于源领域的叙事纹理。
引用
@article{arxiv.2605.27878,
title = {Narrative Flattening: How Post-Training Compresses Thematic, Affective, and Stylistic Variation in LLM Fiction},
author = {Zehan Li and Yutong Zhu and Siyang Wu and Honglin Bao and James A. Evans},
journal= {arXiv preprint arXiv:2605.27878},
year = {2026}
}