什么构成了好的推理链？揭示长思维链推理中的结构模式
人工智能
2025-05-29 v1
摘要
近期在大语言模型（LLM）推理方面的进展普及了长思维链（Long Chain-of-Thought, LCoT），这是一种在产生最终答案之前鼓励深思熟虑和逐步推理的策略。尽管 LCoT 在复杂任务中实现了专家级的性能，但其推理链的内部结构如何驱动甚至预测最终答案的正确性，仍然是一个关键但尚未充分探索的问题。在本研究中，我们提出了 LCoT2Tree，这是一个将顺序 LCoT 转换为分层树结构的自动化框架，从而能够对 LLM 推理进行更深层次的结构分析。利用图神经网络（GNN），我们发现 LCoT2Tree 提取的结构模式（包括探索、回溯和验证）在广泛的任务和模型中可作为最终性能的更强预测因子。利用可解释性技术，我们进一步识别了导致失败的关键思维模式，如过度分支。除了诊断洞察外，LCoT2Tree 提取的结构模式还支持实际应用，包括提高 Best-of-N 解码的有效性。总体而言，我们的结果强调了推理链内部结构的关键作用，将 LCoT2Tree 定位为诊断、解释和改进 LLM 推理的强大工具。
关键词
引用
@article{arxiv.2505.22148,
title = {What Makes a Good Reasoning Chain? Uncovering Structural Patterns in Long Chain-of-Thought Reasoning},
author = {Gangwei Jiang and Yahui Liu and Zhaoyi Li and Qi Wang and Fuzheng Zhang and Linqi Song and Ying Wei and Defu Lian},
journal= {arXiv preprint arXiv:2505.22148},
year = {2025}
}