中文

思考机器:基于大语言模型的推理策略综述

计算与语言 2025-03-17 v1

摘要

大型语言模型(LLM)在语言任务中表现卓越,其语言能力使其站在未来人工通用智能(AGI)竞赛的前沿。然而,深入观察后,Valmeekam 等人(2024);Zecevic 等人(2023);Wu 等人(2024)指出,语言熟练程度与推理能力之间存在显著差距。LLM 和视觉语言模型(VLM)的推理旨在通过使这些模型能够思考并重新评估其动作和响应来弥合这一差距。推理是复杂问题解决的关键能力,是建立人工智能(AI)信任的必要步骤。这将使 AI 适用于诸如医疗、金融、法律、防御、安保等敏感领域的部署。近期,随着像 OpenAI O1 和 DeepSeek R1 这类强大推理模型的出现,推理能力已成为大语言模型中的关键研究主题。本文提供了现有推理技术的详细概述与比较,并系统性地综述了具备推理能力的语言模型。我们还研究当前挑战并提出了我们的发现。

关键词

引用

@article{arxiv.2503.10814,
  title  = {Thinking Machines: A Survey of LLM based Reasoning Strategies},
  author = {Dibyanayan Bandyopadhyay and Soham Bhattacharjee and Asif Ekbal},
  journal= {arXiv preprint arXiv:2503.10814},
  year   = {2025}
}