自和谐链式思考
计算与语言
2025-02-12 v2
摘要
链式思考(CoT)提示已展示了大型语言模型通过中间步骤执行复杂推理的能力。尽管如此,当前的 CoT 方法面临挑战:零样本 CoT 可能导致推理错误,少样本 CoT 需要耗时的手动演示。Auto-CoT 试图通过自动生成多样化的演示来解决这些问题,但这种多样性可能导致推理模式不一致。我们提出了 ECHO(自和谐链式思考),一种新方法,将多样化的解决方案路径统一为一致且高效的推理模式。ECHO 采用迭代过程来细化和和谐化自动生成的演示,从而缓解了现有方法的局限性。我们的全面实验覆盖算术、常识和符号推理任务,表明 ECHO 在 Auto-CoT 上平均提高了 2.8%。这些发现表明,ECHO 表示了对大型语言模型更健壮和更通用自动推理的一个重要步骤。
引用
@article{arxiv.2409.04057,
title = {Self-Harmonized Chain of Thought},
author = {Ziqi Jin and Wei Lu},
journal= {arXiv preprint arXiv:2409.04057},
year = {2025}
}