通过多层自我反思与自动提示提升大语言模型的多步骤数学推理能力
计算与语言
2025-12-04 v1 机器学习
摘要
最近的大语言模型（LLMs）进展显著提升了其问题解决能力，但在面对复杂的多步骤推理任务时仍存在挑战。本文提出了多层自我反思结合自动提示（MAPS）框架，这是一种新颖的方法，旨在通过集成链式思考（CoT）、自我反思和自动提示等技术来增强大语言模型中的多步骤数学推理。与传统静态提示方法不同，MAPS 采用迭代细化过程。初始时，模型使用 CoT 提示生成解决方案。当检测到错误时，自适应自我反思机制识别并分析错误，生成针对性的提示以引导纠正。这些动态调整的提示使模型能够迭代细化其推理过程。实验在四个广为人知的基准测试上进行，涵盖多个大语言模型，结果显示 MAPS 在标准 CoT 之外显著优于后者，且与专注于推理优化的模型取得了具竞争力的成绩。此外，MAPS 使通用大语言模型能够达到专用推理模型的性能水平。虽然更深的反思层次会提高准确率，但也会增加标记用量和成本。为在此权衡之间取得最佳平衡，MAPS 策略性地限制反思深度，确保成本与推理性能之间达到最佳平衡。
引用
@article{arxiv.2506.23888,
title = {Advancing Multi-Step Mathematical Reasoning in Large Language Models through Multi-Layered Self-Reflection with Auto-Prompting},
author = {André de Souza Loureiro and Jorge Valverde-Rebaza and Julieta Noguez and David Escarcega and Ricardo Marcacini},
journal= {arXiv preprint arXiv:2506.23888},
year = {2025}
}
备注
Accepted for publication in: European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML PKDD 2025). Research Track