ChatCoT：基于聊天式大语言模型的工具增强思维链推理
计算与语言
2023-11-07 v3
摘要
尽管大语言模型（LLMs）在多种评测基准上取得了优异表现，但在需要特定知识和多跳推理的复杂推理任务中仍面临困难。为提升推理能力，我们提出 ChatCoT，一种面向聊天式 LLM（如 ChatGPT）的工具增强思维链推理框架。在 ChatCoT 中，我们将思维链（CoT）推理建模为多轮对话，以通过聊天更自然地利用工具。在每一轮中，LLM 既可以与工具交互，也可以执行推理。我们的方法能有效利用聊天式 LLM 的多轮对话能力，并将思维链跟随与工具操作以统一方式整合。特别地，我们通过关于工具、任务和推理格式的知识来初始化对话的前几轮，并提出一种迭代式工具增强推理步骤以执行逐步的工具增强推理。在两个复杂推理数据集（MATH 和 HotpotQA）上的实验结果展示了 ChatCoT 在复杂推理任务上的有效性，相较最先进基线取得了 7.9% 的相对提升。我们的代码与数据见：\url{https://github.com/RUCAIBOX/ChatCoT}。
引用
@article{arxiv.2305.14323,
title = {ChatCoT: Tool-Augmented Chain-of-Thought Reasoning on Chat-based Large Language Models},
author = {Zhipeng Chen and Kun Zhou and Beichen Zhang and Zheng Gong and Wayne Xin Zhao and Ji-Rong Wen},
journal= {arXiv preprint arXiv:2305.14323},
year = {2023}
}
备注
14 pages, working in progress, Findings of EMNLP 2023