中文

SQuARE:用于增强大型语言模型链式思考的顺序问题解答推理引擎

计算与语言 2025-02-14 v1 人工智能 机器学习

摘要

在自然语言处理领域,大型语言模型(LLM)正被赋予日益复杂的推理挑战。传统方法如链式思考(chain-of-thought) prompting 虽有前景,但往往未能充分发挥模型推理能力。本文引入 SQuARE(Sequential Question Answering Reasoning Engine),一种 novel 的 prompting 技术,通过自询问范式提高推理。基于 CoT 框架,SQuARE 提示模型在解决主查询之前生成并解决多个辅助问题,以更彻底地探索主题的各个方面。我们的广泛评估在 Llama 3 和 GPT-4o 模型上进行,覆盖多个问题解答数据集,结果表明,SQuARE 显著优于传统 CoT 提示和现有 rephrase-and-respond 方法。通过系统性分解查询,SQuARE 推进了 LLM 在推理任务中的能力。代码已在 https://github.com/IntelLabs/RAG-FiT/tree/square 公开。

关键词

引用

@article{arxiv.2502.09390,
  title  = {SQuARE: Sequential Question Answering Reasoning Engine for Enhanced Chain-of-Thought in Large Language Models},
  author = {Daniel Fleischer and Moshe Berchansky and Gad Markovits and Moshe Wasserblat},
  journal= {arXiv preprint arXiv:2502.09390},
  year   = {2025}
}

备注

14 pages