将规划整合到单轮长文本生成中
计算与语言
2024-10-10 v1 人工智能
摘要
生成高质量、深入的文本文档，例如学术论文、新闻文章、维基百科条目和书籍，对于大型语言模型（LLM）来说仍然是一个重大挑战。在本文中，我们提出使用规划来生成长篇内容。为了实现我们的目标，我们通过一个辅助任务生成中间步骤，该任务教导LLM在生成最终文本之前进行规划、推理和结构化。我们的主要创新在于一个单一的辅助任务，不需要多轮提示或规划。为了克服这些中间步骤训练数据的稀缺性，我们利用LLM从现有的完整文章中生成合成的中间写作数据，例如大纲、关键信息和摘要。我们在两个不同领域的数据集上的实验，即科学新闻数据集SciNews和KILT-Wiki与FreshWiki中的维基百科数据集，表明使用辅助任务微调的LLM生成了更高质量的文档。我们观察到ROUGE-Lsum提高了+2.5%，并且通过人工SxS评估获得了3.60的总体胜/负比，在组织性、相关性和可验证性方面有明显优势。
引用
@article{arxiv.2410.06203,
title = {Integrating Planning into Single-Turn Long-Form Text Generation},
author = {Yi Liang and You Wu and Honglei Zhuang and Li Chen and Jiaming Shen and Yiling Jia and Zhen Qin and Sumit Sanghai and Xuanhui Wang and Carl Yang and Michael Bendersky},
journal= {arXiv preprint arXiv:2410.06203},
year = {2024}
}