无需解释：LLM在上下文中可隐式地从错误中学习

向大型语言模型（LLM）展示错误答案是提高其在推理密集型任务中性能的流行策略。人们普遍认为，为了使错误答案有助于推理，必须伴随详尽的理性说明，明确指出错误所在并说明如何纠正。然而，在本文中，我们发现了一个令人反直觉的结果：我们观察到，当这些理性说明被删除，仅留下模型自行推断错误性质之时，LLM在数学推理任务中的表现更佳。这种方法在我们的评估中也显著优于链式思考（chain-of-thought）提示。在不同规模和不同推理能力的LLM中，这些结果都保持一致。为理解LLM为何在没有明确纠错理性说明时更有效地从错误中学习，我们进行了深入分析，考察了不同提示策略下的上下文长度和答案多样性变化，以及其对性能的影响。我们还检查了在提供理性说明时LLM是否过度拟合这些上下文中的理性说明的证据，并研究了LLM在仅凭错误答案作为输入的情况下能否自主推断出高质量的纠错理性说明的程度。我们发现，错误答案对LLM的学习比额外的多样正确答案更有益，但明确的纠错理性说明反而会过度限制模型，从而限制了这些益处。