SQuARE:用于增强大型语言模型链式思考的顺序问题解答推理引擎
计算与语言
2025-02-14 v1 人工智能
机器学习
摘要
在自然语言处理领域,大型语言模型(LLM)正被赋予日益复杂的推理挑战。传统方法如链式思考(chain-of-thought) prompting 虽有前景,但往往未能充分发挥模型推理能力。本文引入 SQuARE(Sequential Question Answering Reasoning Engine),一种 novel 的 prompting 技术,通过自询问范式提高推理。基于 CoT 框架,SQuARE 提示模型在解决主查询之前生成并解决多个辅助问题,以更彻底地探索主题的各个方面。我们的广泛评估在 Llama 3 和 GPT-4o 模型上进行,覆盖多个问题解答数据集,结果表明,SQuARE 显著优于传统 CoT 提示和现有 rephrase-and-respond 方法。通过系统性分解查询,SQuARE 推进了 LLM 在推理任务中的能力。代码已在 https://github.com/IntelLabs/RAG-FiT/tree/square 公开。
引用
@article{arxiv.2502.09390,
title = {SQuARE: Sequential Question Answering Reasoning Engine for Enhanced Chain-of-Thought in Large Language Models},
author = {Daniel Fleischer and Moshe Berchansky and Gad Markovits and Moshe Wasserblat},
journal= {arXiv preprint arXiv:2502.09390},
year = {2025}
}
备注
14 pages