优化链式思考推理：通过计划增强解决排列瓶颈
计算与语言
2024-10-23 v1
摘要
大型语言模型的多步骤推理能力在数学和工具利用等任务中至关重要。当前研究主要通过针对链式思考（Chain-of-Thought, CoT）步骤进行微调来增强模型在这些多步骤推理任务中的性能，但这些方法倾向于偏 heuristic，未探索或解决瓶颈。本研究将CoT推理划分为两个部分：排列与执行，识别出模型的瓶颈主要位于排列而非执行。基于这一发现，我们提出一种基于计划的训练与推理方法，引导模型通过抽象计划生成排列步骤。在数学（GSM8k）和工具利用（ToolBench）基准上进行实验。结果表明，与直接使用CoT数据微调相比，我们的方法在缓解排列瓶颈方面效果更佳，尤其在长距离推理泛化方面表现优异。
引用
@article{arxiv.2410.16812,
title = {Optimizing Chain-of-Thought Reasoning: Tackling Arranging Bottleneck via Plan Augmentation},
author = {Yuli Qiu and Jiashu Yao and Heyan Huang and Yuhang Guo},
journal= {arXiv preprint arXiv:2410.16812},
year = {2024}
}