长文本生成中的“中间迷失”：合成数据集、评估框架与缓解方法
计算与语言
2025-03-11 v1 人工智能
摘要
现有的长文本生成方法主要集中于从短输入生成长文本，忽略了长输入与长输出任务。此类任务具有众多实际应用，但缺乏可用的基准测试。此外，随着输入长度的增加，现有方法不可避免地会遇到“中间迷失”现象。在本文中，我们首先引入了一个长输入与长输出基准（LongInOutBench），包含一个合成数据集和一套全面的评估框架，以解决基准测试缺失的挑战。随后，我们开发了检索增强长文本生成器（RAL-Writer），该方法通过构建显式提示，检索并重述重要但被忽略的内容，从而缓解“中间迷失”问题。最后，我们使用提出的 LongInOutBench 将 RAL-Writer 与可比基线进行评估对比，结果证明了我们方法的有效性。我们的代码已发布于 https://github.com/OnlyAR/RAL-Writer。
引用
@article{arxiv.2503.06868,
title = {Lost-in-the-Middle in Long-Text Generation: Synthetic Dataset, Evaluation Framework, and Mitigation},
author = {Junhao Zhang and Richong Zhang and Fanshuang Kong and Ziyang Miao and Yanhan Ye and Yaowei Zheng},
journal= {arXiv preprint arXiv:2503.06868},
year = {2025}
}