通过新框架思维图提升大语言模型的逻辑推理能力
机器学习
2023-08-21 v1 人工智能
计算与语言
摘要
近期大规模模型(如 GPT-4)的进展已展示出处理标准查询的卓越能力。然而,当面对需要多步逻辑推理的复杂问题时,其准确率急剧下降。当前研究已探索提示工程(prompting engineering)领域以增强这些模型的推理能力。我们的论文揭示了一种开创性的提示技术,称为思维图(Graph of Thoughts, GoT)。通过在三个递进难度挑战上的测试:24 点游戏、高次多项式方程求解以及递归序列公式推导,我们的方法优于 GPT-4,在各项任务上分别实现了 89.7%、86% 和 56% 的准确率提升。此外,与最先进的(SOTA)提示方法思维树(Tree of Thought, ToT)相比,我们的方法在平均准确率上分别提升了 23%、24% 和 15%。
引用
@article{arxiv.2308.08614,
title = {Boosting Logical Reasoning in Large Language Models through a New Framework: The Graph of Thought},
author = {Bin Lei and pei-Hung Lin and Chunhua Liao and Caiwen Ding},
journal= {arXiv preprint arXiv:2308.08614},
year = {2023}
}