跨越思维跨越：提高链式思维微调的思考间隙
计算与语言
2025-12-01 v3 人工智能
摘要
大语言模型（LLM）通过链式思维（Chain-of-Thought，CoT）推理在数学任务上取得了显著进展。然而，现有的数学 CoT 数据集常常存在思维跨越（Thought Leaps）问题，即专家省略中间步骤，这会对模型的学习和泛化产生负面影响。我们提出了 CoT 思维跨越桥接任务（CoT Thought Leap Bridge Task），旨在自动检测跨越并生成缺失的中间推理步骤，以恢复 CoT 的完整性和连贯性。为此，我们构建了一个基于结构化 ScaleQuestMath 数据集构建的专用训练数据集，称为 ScaleQM+，并训练了 CoT-Bridge 以桥接思维跨越。通过在数学推理基准测试上的全面实验，我们证明了在桥接后的数据集上微调的模型持续优于在原始数据集上训练的模型，在 NuminaMath 上的提升最高可达 +5.87%。我们的做法有效提升了蒸馏数据（+3.02%）并为强化学习提供更好的起点（+3.1%），可作为与现有优化技术兼容的即插即用模块。此外，CoT-Bridge 在越域逻辑推理任务上的泛化能力得到提高，确认增强推理完整性具有广泛适用性。
引用
@article{arxiv.2505.14684,
title = {Mind the Gap: Bridging Thought Leap for Improved Chain-of-Thought Tuning},
author = {Haolei Xu and Yuchen Yan and Yongliang Shen and Wenqi Zhang and Guiyang Hou and Shengpei Jiang and Kaitao Song and Weiming Lu and Jun Xiao and Yueting Zhuang},
journal= {arXiv preprint arXiv:2505.14684},
year = {2025}
}
备注
Accepted to NeurIPS 2025. Camera ready version. Code: https://github.com/ZJU-REAL/Mind-the-Gap Project: https://zju-real.github.io/CoT-Bridge/