LongStory：连贯、完整且长度可控的长故事生成
计算与语言
2025-04-22 v2 人工智能
摘要
人类作者可以写出任意长度的故事而不失连贯性，并且总能给故事一个恰当的结尾，这是当前语言模型所缺乏的能力。在这项工作中，我们提出 LongStory 用于连贯、完整且长度可控的长故事生成。LongStory 引入了两种新颖方法：（1）长短期上下文权重校准器（CWC）和（2）长故事结构位置（LSP）。CWC 为长期上下文 Memory 和短期上下文 Cheating 调整权重，承认它们的不同作用。LSP 使用话语标记（discourse tokens）来传达长故事的结构位置。LongStory 在三个具有不同平均故事长度的数据集上训练，在连贯性、完整性、相关性和重复度方面优于其他基线，包括强大的故事生成器 Plotmachine。我们还在每个数据集上进行了零样本测试，以评估模型预测训练数据之外结果的能力，并通过将其性能与我们的模型变体进行比较来验证我们的方法。
引用
@article{arxiv.2311.15208,
title = {LongStory: Coherent, Complete and Length Controlled Long story Generation},
author = {Kyeongman Park and Nakyeong Yang and Kyomin Jung},
journal= {arXiv preprint arXiv:2311.15208},
year = {2025}
}