链路思的理论理解：连贯推理与误差感知演示
计算与语言
2024-10-23 v1 人工智能
机器学习
机器学习
摘要
少样本链链思(CoT)提示在提高大型语言模型(LLM)的推理能力方面已显示出强大的性能。虽然已对CoT进行了理论研究，但这些研究中使用的转换器将CoT推理过程隔离为分离的原地学习步骤(逐步ICL)。在本工作中，我们从理论上表明，与逐步ICL相比，若将来自早期步骤的推理(连贯CoT)整合，转换器将获得更好的错误纠正能力和更准确的预测。鉴于这种连贯推理会改变转换器的行为，我们进一步研究了在推理阶段演示示例被破坏时，转换器对Coherent CoT的敏感性。我们的理论结果表明，转换器对中间推理步骤中的错误比最终结果更为敏感。基于此观察，我们提出通过包含正确与错误推理路径的演示来改进CoT。我们的实验验证了所提出方法的有效性。
引用
@article{arxiv.2410.16540,
title = {A Theoretical Understanding of Chain-of-Thought: Coherent Reasoning and Error-Aware Demonstration},
author = {Yingqian Cui and Pengfei He and Xianfeng Tang and Qi He and Chen Luo and Jiliang Tang and Yue Xing},
journal= {arXiv preprint arXiv:2410.16540},
year = {2024}
}