因果充分性与必要性改进思维链推理
计算与语言
2025-10-28 v3 人工智能
统计理论
统计方法学
统计理论
摘要
思维链提示在赋予大语言模型复杂推理能力方面发挥着不可或缺的作用。然而，思维链目前面临两个基本挑战：（1）充分性，确保生成的中间推理步骤全面覆盖并支撑最终结论；（2）必要性，识别对结果答案的正确性真正不可或缺的推理步骤。我们提出了一种因果框架，通过充分性与必要性的双重透镜来刻画思维链推理。引入因果充分概率与必要性概率，不仅使我们能够确定哪些步骤在逻辑上对预测结果是充分或必要的，还能量化它们在不同干预场景下对最终推理结果的实际影响，从而实现缺失步骤的自动补充和冗余步骤的剪枝。在各种数学和常识推理基准上的大量实验结果证实了推理效率的显著提升和令牌使用量的减少，且未牺牲准确性。我们的工作为提升大语言模型推理性能和成本效益提供了一个有前景的方向。
引用
@article{arxiv.2506.09853,
title = {Causal Sufficiency and Necessity Improves Chain-of-Thought Reasoning},
author = {Xiangning Yu and Zhuohan Wang and Linyi Yang and Haoxuan Li and Anjie Liu and Xiao Xue and Jun Wang and Mengyue Yang},
journal= {arXiv preprint arXiv:2506.09853},
year = {2025}
}