LongFaith：通过忠实合成数据提升 LLM 中的长上下文推理能力
计算与语言
2025-05-30 v2
摘要
尽管长上下文大语言模型 (LLMs) 的开发日益增长，数据中心方法依赖合成数据在忠实性方面存在障碍，这限制了其在长上下文推理和问答 (QA) 等任务中提升模型性能的效果。这些挑战常常因缺乏验证、推理无归因以及潜在知识冲突而加剧。我们提出 LongFaith，一种用于合成忠实长上下文推理指令数据集的新型管道。通过整合 ground truth 和 citation-based reasoning prompts，我们消除干扰因素，提高推理链的准确性，从而减轻对高成本验证过程的依赖。我们开源了两个合成数据集，LongFaith-SFT 和 LongFaith-PO，系统性地解决了忠实性的多个维度，包括验证的推理、归因和情境 grounding。广泛的实验在多跳推理数据集和 LongBench 上表明，针对这些数据集微调的模型显著提升了性能。我们的消融研究突显了 LongFaith 管道的可扩展性和可适应性，展示了其在开发长上下文 LLM 中的广泛适用性。
引用
@article{arxiv.2502.12583,
title = {LongFaith: Enhancing Long-Context Reasoning in LLMs with Faithful Synthetic Data},
author = {Cehao Yang and Xueyuan Lin and Chengjin Xu and Xuhui Jiang and Shengjie Ma and Aofan Liu and Hui Xiong and Jian Guo},
journal= {arXiv preprint arXiv:2502.12583},
year = {2025}
}