中文

苏格拉底提问的艺术:基于大语言模型的递归思考

计算与语言 2023-11-03 v2

摘要

思维链(CoT)提示通过生成中间步骤使大语言模型能够解决复杂推理问题。然而,受限于其固有的单遍顺序生成过程,CoT 严重依赖初始决策,导致早期步骤中的错误累积并影响最终答案。相比之下,人类在解决复杂推理问题时采用递归思考,即迭代地将原问题拆解为可处理的子问题,并聚合其子答案以解决原问题。受人类认知过程启发,我们提出 SOCRATIC QUESTIONING,一种模拟递归思考过程的分治式算法。具体而言,SOCRATIC QUESTIONING 利用大语言模型提出并回答子问题,直至收集到足够信息来处理原问题。与 CoT 不同,SOCRATIC QUESTIONING 显式地导航思考空间,激发有效的递归思考,并对思考过程中的错误更具鲁棒性。在包括 MMLU、MATH、LogiQA 和视觉问答在内的若干复杂推理任务上的大量实验表明,相较 CoT、Tree-of-Thought 等最先进提示方法取得了显著性能提升。定性分析清晰显示,SOCRATIC QUESTIONING 引发的中间推理步骤类似于人类解决复杂推理问题的递归思考过程。

关键词

引用

@article{arxiv.2305.14999,
  title  = {The Art of SOCRATIC QUESTIONING: Recursive Thinking with Large Language Models},
  author = {Jingyuan Qi and Zhiyang Xu and Ying Shen and Minqian Liu and Di Jin and Qifan Wang and Lifu Huang},
  journal= {arXiv preprint arXiv:2305.14999},
  year   = {2023}
}

备注

ACL 2023 main