无反馈重试是否就足够？提升大语言模型推理能力的探索

近期大语言模型（LLM）的快速发展催生了通用自主智能体的开发，展现出在多个领域处理复杂推理任务的卓越性能。这一浪潮推动了基于提示的多种推理框架的演进。最近的焦点转向通过自我评估和语言化反馈来细化输出的迭代推理策略。然而，这些策略需要额外的计算复杂度以使模型识别并纠正其错误，导致显著的成本增加。本文引入“无反馈重试”的概念，这是一种极其简单却强大的机制，通过允许 LLM 在识别错误答案后重试问题解决，从而提升推理框架。与传统的迭代细化方法不同，我们的方法无需显式的自我反思或语言化反馈，简化了细化过程。我们的发现表明，较为简单的基于重试的方法往往优于更为复杂的推理框架，表明复杂方法的益处不一定总能凌驾其计算成本。通过挑战“更复杂的推理策略必然导致更好性能”的主流假设，本文为如何通过更简单、更高效的方法实现最佳结果提供了新视角。那么，重试是否就是你所需要的？